Halucinațiile inteligenței artificiale aproape au dus la un atac militar american asupra Chinei
SUA au evitat la limită să urce la bordul unei nave chinezești pe baza unui raport de informații american „complet fals” generat cu ajutorul instrumentelor de inteligență artificială, potrivit unui reportaj CNN .
Informațiile eronate, prezentate de un analist al Comandamentului Operațiunilor Speciale ale SUA, sugerau că nava chineză transporta componente ale programului de arme nucleare prin Orientul Mijlociu, potrivit „patru surse familiarizate cu episodul” citat de CNN. Armata americană se pregătește să intercepteze și să abordeze nava, cu sprijin aerian, înainte ca oficialii să descopere că un chatbot folosit în generarea raportului „identificase inexact materialul pe care îl transporta nava”.
O sursă a declarației pentru CNN că fiasco-ul bazat pe inteligență artificială „aproape a declanșat un război”.
Care e cel mai rău lucru care se poate întâmpla?
Raportul CNN menționează că analistul în cauză a folosit un chatbot pentru a analiza rapoartele de informații privind manifestul navei chinez, ceea ce a dus la rezultatul aproape dezastruos. Chatbot-ul respectiv „a combinat informații open-source cu informații secrete provenite din surse guvernamentale”, iar aceste informații au fost incluse într-un raport de informații care aproape a declanșat un lanț dezvăluiri de evenimente, potrivit CNN.
Accidentul ratat la limită este unul dintre cele mai puternice și mai semnificative cazuri în care o inteligență artificială (IA) halucinantă distruge fiabilitatea unui raport profesional. De „halucinant” a devenit cuvântul anului 2023 în Dicționarul Cambridge , am văzut exemple proeminente de autori de non-ficțiune , jurnaliști , cercetători academici , judecători , medici , departamente de poliție , centre de apel suficient și alții care sunt păcăliți de instrumente de inteligență artificială și de a inventa o activitate artificială a contextului pur și simplu. Și, în ciuda unor încercări de a formula solicitări de tipul „nu halucina” , unii cercetători sugerează că ar putea fi imposibil să se prevină complete halucinațiile studenților cu drepturi depline (LLM).
S-ar speră că armata americană ar fi conștientă de aceste tipuri de probleme atunci când se bazează pe inteligența artificială pentru analizarea informațiilor. Însă Departamentul Apărării a lansat în ianuarie sau „strategie de accelerare a inteligenței artificiale” care urmărea „să pună la dispoziție toate datele adecvate în sistemele IT federate pentru exploatarea inteligenței artificiale, inclusiv sistemele de misiune din fiecare serviciu și componentă”.
