„Cred că intrăm într-un rit de trecere turbulent și inevitabil, care ne va testa ca specie”/Eseu care dă fiori al unui dezvoltator de AI
Șeful companiei Anthropic, care a dezvoltat modelul de inteligență artificială Claude și este principalul rival al dezvoltatorului ChatGPT, OpenAI, a avertizat că omenirea trebuie să realizeze faptul că sistemele AI puternice prezintă riscuri potențial catastrofale și să intervină cât mai repede pentru a evita „pericolul real” ca o superinteligență să provoace pagube la nivelul întregii civilizații.
Într-un eseu de aproape 20.000 de cuvinte postat săptămâna aceasta, Dario Amodei a prezentat riscurile care ar putea apărea dacă tehnologia AI se dezvoltă fără nicio limită – de la concedieri în masă și până la bioterorism.
„Omenirea este pe cale să capete o putere aproape de neimaginat și nu este deloc clar dacă sistemele noastre sociale, politice și tehnologice au maturitatea necesară pentru a o gestiona”, a scris Amodei.
Eseul reprezintă un avertisment dur din partea unuia dintre cei mai puternici antreprenori din industria AI despre faptul că măsurile de siguranță impuse până acum în domeniul inteligenței artificiale nu sunt suficiente.
Prin „AI puternic”, Amodei se referă la modelele de superinteligență artificială care vor fi „mult mai capabile decât orice câștigător de Premiu Nobel, șef de stat sau tehnolog”. Amodei prezice că astfel de sisteme vor apărea, cel mai probabil, în doar „câțiva ani”.
Arme biologice care ar putea distruge viața pe Pământ
Unul dintre riscuri este ca orice persoană să poată dezvolta arme biologice cu care poate ucide milioane de oameni sau, „în cel mai rău caz, să distrugă toate formele de viață de pe Pământ”.
„O persoană singuratică tulburată care poate împușca oameni în școli, dar care cel mai probabil nu poate să construiască o armă nucleară sau să declanșeze o epidemie... va fi acum ridicat la nivelul unui doctor în virusologie”, a scris Amodei.
Amodei a menționat și riscul ca inteligența artificială să scape de sub control și să ajungă să conducă omenirea sau să fie folosită de lideri autoritari și alte persoane rău-intenționate, ceea ce ar putea duce la „o dictatură totalitară globală”.
Inteligența artificială va duce la pierderea unui număr uriaș de locuri de muncă și va concentra „puterea economică” și marile averi în jurul companiilor de tehnologie din Silicon Valley, a avertizat șeful Anthropic, Dario Amodei. Foto: Profimedia Images „Cred că intrăm într-un rit de trecere turbulent și inevitabil, care ne va testa ca specie”, a scris Amodei.
Șeful Anthropic, care este principalul rival al dezvoltatorului chatbot-ului ChatGPT, OpenAI, a intrat de mai multe în conflict cu David Sacks, „țarul” cripto și AI al președintelui american Donald Trump, în legătură cu politica Statelor Unite privind inteligența artificială.
Amodei a comparat planurile administrației Trump de a vinde cipuri AI avansate în China cu vânzarea de arme nucleare în Coreea de Nord.
„Capcana” inteligenței artificiale. „Suntem mult mai aproape de un pericol real în 2026”
Inteligența artificială va duce la pierderea unui număr uriaș de locuri de muncă și va concentra „puterea economică” și marile averi în jurul companiilor de tehnologie din Silicon Valley, a avertizat șeful Anthropic.
„Este o capcană: inteligența artificială este atât de puternică, un premiu atât de strălucitor, încât este foarte dificil pentru civilizația umană să impună orice fel de restricții”, a scris Amodei.
Amodei l-a atacat indirect și pe Elon Musk, spunând că „unele companii AI au demonstrat o neglijență îngrijorătoare față de sexualizarea copiilor în modelele actuale, ceea ce mă face să mă îndoiesc că vor fi dispuse sau capabile să gestioneze riscurile autonomiei în modelele viitoare”.
„Suntem mult mai aproape de un pericol real în 2026 decât eram în 2023”, a avertizat Amodei, referindu-se la anul în care mulți experți din domeniul AI au adresat problema armelor biologice și autonome care devin mult mai accesibile și periculoase din cauza dezvoltării inteligenței artificiale.
Amodei a fost unul dintre primii angajați ai OpenAI, însă a părăsit compania pentru a fonda Anthropic, în 2020, după ce a intrat în conflict cu Sam Altman în legătură cu direcția companiei și măsurile de siguranță adoptate.
