AI kłamie prosto w oczy - a ty mu ufasz bezgranicznie

Ufanie modelom AI czy też ogólnie sztucznej inteligencji może być zgubne. To co dostaniemy powinniśmy sprawdzać i analizować by mieć w 100% pewność że otrzymujemy to co chcemy. Tylko gdzie tu automatyzacja pełna klasą która właśnie likwiduje ten czynnik ludzki. Tak ochoczo zastępowany przez AI w organizacjach. Kto próbował dodzwonić się na infolinie po rewolucji AI ten wie, że to do końca nie działa.

Dzień sądu z AI - czy to już terminator

W moim przykładzie przypomina mi się scena z Terminatora 3 gdzie ów terminator pod naciskiem Cathrine Bruster zmienia zdanie i idzie ratować ojca protagonistki. Ok ale do sedna. Mam sobie plik xml, ale nie byle jaki dokładnie to ten plik zawiera konfigurację mojej maszyny wirtualnej działającej na KVM w linux. XML wydobyty poleceniem:

virsh dumpxml win2019 > win2019.xml

A więc konfiguracja tego xml jest poprawna i napewno nie zawiera błędnych bloków które mogły by zmylić Model Językowy czy też nasze AI. Zatem poprosiłem ów model o analize tego pliku - oto moj prompt:

W załączonym pliku win2019.xml przekazuję Ci konfigurację maszyny wirtualnej z windows server 2019. Maszyna wirtualna ta działa na systemie operacyjnym Linux Ubuntu 24.04 na hypervizor KVM. Polecenie użyte do ściągnięcia tej konfiguracji to virsh dumpxml win2019 > win2019.xml. Wykonaj analizę tego pliku win2019.xml i napisz mi co jest potrzebne do przeniesienia tej maszyny wirtualnej na innych host z sytemem Ubuntu 24.04. Dokładnie to jakie pliki, konfiguracje powinienem odtworzyć na nowym systemie operacyjnym w celu uruchomienia tej maszyny wirtualnej.

Otrzymałem informacje że maszyna jest uruchomiona w trybie UEFI, że trzeba sprawdzić czy nie są z nia powiązane snapshoty. Dostałem pełną informację co jest mi potrzebne, na co powinienem zwrócić uwagę. Oraz zostałem poproszony o dodatkowe informacje które pomogą mi.

I moja uwagę przykuła jedna informacja:

A dokładnie związana z siecią:

Postanowiłem że sprawdzę ów mój plik xml:

Jak możemy zobaczyć całą sekcję związaną z sieci model językowy poprostu sobie zmyślił.

Ok, ok - ktoś powie miałeś ujowy prompt. Ale spójrzmy na inną sytuację. Niedawno w domu miałem problemy z internetem. Dzwonie zatem na infolinie i jak się ucieszyłem że w słuchawce przywitał mnie miły głos AI.

AI: Jestem wirtualnym asystentem AI w czym mogę pomóc? JA: Mam problem z usługa internet, nie działa AI: Poczekaj chwilę pozwól że sprawdzę połączenie ..... ..... AI: Zakończyłam właśnie sprawdzanie Twojego modemu. Nie wykryłam żadnych problemów z Twoim Modemem/Routerem. Czy problem nadal występuje. JA: Tak, nie działa internet AI: Dobrze - proszę odłącz modem z zasilania na 90 sekund i podłącz go ponownie, po tej operacji skontaktuj się z infolinią ponowanie.

Tu nastąpiło rozłączenie - ok myślę dobrze zanim podejdę wyłącze modem odczekam te 90 sekund i włączę ponownie - to fakt trochę to potrwa lepiej nie blokować lini. Ok idę poweroff modemu, mowie idę zrobię sobie herbatę napewno będzie wtedy te 90 sekund. Herbata zrobiona idę włączyć modem. Czekam dioda sygnalizuje problem z bazą - sprawdzam faktycznie nie ma internetu. Dzwonię raz jeszcze.

Dzwonie zatem na infolinie i jak się ucieszyłem że w słuchawce przywitał mnie miły głos AI.

AI: Jestem wirtualnym asystentem AI w czym mogę pomóc? JA: Mam problem z usługą internet, nie działa AI: Poczekaj chwilę pozwól, że sprawdzę połączenie ...... ...... AI: Wykryto że....... AI: Twój modem niedawno został zrestartowany - proszę odczekaj chwilę nim nasze urządzenia się zsynchronizują i skontaktuj się z nami ponownie jeżeli wystąpią dalsze problemy z działaniem usługi

Tu znów nastąpiło rozłączenie - hmmm sprawdzają uptime. Świetnie - ok pojdę zatem do sklepu i tak miałem iść po drobne śniadanie.

Cała droga zajeła mi jakie 30 minut. Wracam do domu patrze nie mam internetu. Ok zatem dzwonię.

Dzwonie zatem na infolinie i jak się ucieszyłem, że w słuchawce przywitał mnie miły głos AI.

AI: Jestem wirtualnym asystentem AI w czym mogę pomóc? JA: Mam problem z usługa internet, nie działaAI: Poczekaj chwilę pozwól że sprawdzę połączenie ..... ..... AI: Zakończyłam właśnie sprawdzanie Twojego modemu. Nie wykryłam żadnych problemów z Twoim Modemem/Routerem. Czy problem nadal występuje. JA: Tak, nie działa internet AI: Dobrze - proszę odłącz modem z zasilania na 90 sekund i podłącz go ponownie, po tej operacji skontaktuj się z infolinią.... JA: Tak już to robiłem AI: Rozumiem. Proszę odłącz modem z zasilania na 90 sekund i podłącz go ponownie, po tej operacji skontaktuj się z infolinią ponownie.

Tu nastąpiło rozłączenie - zostałem zdropowany WTF. Ok, wykonuje zatem operację ponownie. Odłączam modem od zasilania na 90 sekun. Robie to z zapasem na 120 sekund. Podłączam ponownie, widzę że się nie synchronizuje, sprawdzam nie mam internetu zatem dzwonię.

Dzwonie zatem na infolinie i jak się ucieszyłem że w słuchawce przywitał mnie miły głos AI.

AI: Jestem wirtualnym asystentem AI w czym mogę pomóc? JA: Mam problem z usługą internet, nie działa AI: Poczekaj chwilę pozwól, że sprawdzę połączenie ...... ...... AI: Wykryto że ...... ...... ...... ...... ...... ...... AI: Twój modem niedawno został zrestartowany - proszę odczekaj chwilę nim nasze urządzenia się zsynchronizują i skontaktuj się z nami ponownie jeżeli wystąpią dalsze problemy z działaniem usługi

Zostałem zdropowany

Zadzwoniłem raz jeszcze. Dostałęm ponownie ten komunikat że modem niedawno został uruchomiony bla bla i ponownie drop. Zjadłem śniadanie. Ok dzwonię:

Dzwonie zatem na infolinie i jak się ucieszyłem, że w słuchawce przywitał mnie miły głos AI.

AI: Jestem wirtualnym asystentem AI w czym mogę pomóc? JA: Mam problem z usługa internet, nie działa AI: Poczekaj chwilę pozwól że sprawdzę połączenie ..... ..... ..... ..... ..... ..... ..... AI: Zakończyłam właśnie sprawdzanie Twojego modemu. Nie wykryłam żadnych problemów z Twoim Modemem/Routerem. Czy problem nadal występuje. JA: Tak, nie działa internet, juz dzwoniłem do was w tej sprawie AI: Dobrze - proszę odłącz modem z zasilania na 90 sekund i podłącz go ponownie, po tej operacji skontaktuj się z infolinią....

JA: Tak już to robiłem, połacz mie z konsultatnet AI: Rozumiem. Proszę odłącz modem..... JA: Już to robiłęm połacz mnie z konsultatnem AI: Rozumiem. Proszę odłącz modem zasilania na 90 sekund i podłącz go ponownie, po tej operacji skontaktuj się z infolinią ponownie.

Drop połączenia. Kiedy kolejny raz już zadzwoniłem od razu prosiłem o podłączenie mnie z konsultantem. Po kilku odpowiedziach, nie rozumiem i nasi konsultanci są zajęci udało dodzwonić w końcu i porozmawiać z żywą osobą. Dowiedziałem się że w moim rejonie jest awaria i zostanie usunięta do 2 godzin. Podziękowałem za informacje i z ciekawości raz jeszcze zadzwoniłem by pogadać z AI:

Dzwonie zatem na infolinie i jak się ucieszyłem że w słuchawce przywitał mnie miły głos AI.

AI: Jestem wirtualnym asystentem AI w czym mogę pomóc? JA: Mam problem z usługa internet, nie działa AI: Poczekaj chwilę pozwól że sprawdzę połączenie ..... ..... AI: Zakończyłam właśnie sprawdzanie Twojego modemu. Nie wykryłam żadnych problemów z Twoim Modemem/Routerem. Czy problem nadal występuje. JA: Tak, nie działa internet AI: Dobrze - proszę odłącz modem z zasilania na 90 sekund i podłącz go ponownie, po tej operacji skontaktuj się z infolinią ponownie.

Zostałem zdropowany.

Podsumowanie

Pamietajmy że AI wdrażają ludzie który popełniają błędy i złe instrukcje mogą prowadzić do problemu. Pamietajmy też że AI lubi ściemniać, halucynować czy jak zwał tak zwał. A duże firmy jak w ticket napiszą, że nie mam problemu to nie ma problemu - nie mamy pańskiego płaszcza i co pan nam zrobi :)