Sundar Pichai, CEO Google, avertizează cu privire la ”cutiile negre” din programele chatbot cu AI

Sundar Pichai, CEO Google, avertizează cu privire la ”cutiile negre” din programele chatbot cu AI

CEO-ul Google și al Alphabet, Sundar Pichai, a declarat că "fiecare produs al fiecărei companii" va fi afectat de dezvoltarea rapidă a inteligenței artificiale și a avertizat că societatea trebuie să se pregătească pentru impact.

Sundar Pichai, CEO Google. FOTO Profimedia

Într-un interviu difuzat în emisiunea "60 de minute" de la CBS, difuzat duminică, gazda emisiunii, Scott Pelley, a testat mai multe proiecte de inteligență artificială ale Google și a declarat că a rămas "fără cuvinte" și s-a simțit "tulburat", referindu-se la capacitățile asemănătoare cu cele ale omului ale produselor precum chatbot-ul Bard de la Google.

"Trebuie să ne adaptăm ca societate la AI", a spus Pichai în timpul interviului cu Pelley, adăugând că locurile de muncă care vor fi afectate de AI vor include "lucrători din domeniul cunoașterii", inclusiv scriitori, contabili, arhitecți și, ironic, chiar și ingineri software.

"Inteligența artificială va afecta fiecare produs din fiecare companie", a spus Pichai. "De exemplu, ai putea fi radiolog, și privind în perspectivă, cinci sau zece ani de acum înainte, vei avea un colaborator de AI. Vii dimineața, să spunem că ai o sută de lucruri de verificat și AI s-ar putea să spună, 'acestea sunt cele mai grave cazuri la care trebuie să te uiți în primul rând'."

Scott Pelley a vizitat mai multe locuri unde sunt dezvoltate produse avansate cu AI în cadrul Google, inclusiv DeepMind, unde roboții jucau fotbal, pe care l-au învățat singuri, nu de la oameni. Într-o altă unitate a găsit roboți care se antrenau pentru recunoșterea obiectelor pe un blat de bucătărie și i-au adus lui Pelley un măr la cerere.

Când a avertizat asupra consecințelor AI, Pichai a declarat că amploarea problemei dezinformării și a știrilor și imaginilor false va fi "mult mai mare", adăugând că "ar putea cauza daune".

Luna trecută, CNBC a raportat că, Pichai le-a spus angajaților companiei că succesul programului nou lansat, Bard, depinde acum de testarea publică și a adăugat că "vor exista probleme".

Google a lansat chatbotul său AI Bard luna trecută, ca produs experimental disponibil public. Acesta a fost prezentat după anunțul Microsoft din ianuarie că motorul său de căutare Bing va include tehnologia GPT a OpenAI, care a atras atenția internațională după lansarea lui ChatGPT în 2022.

Cu toate acestea, temerile privind consecințele progresului rapid al AI au atras îngrijorarea publicului și o serie de critici în ultimele săptămâni. În martie, Elon Musk, Steve Wozniak și zeci de academicieni au cerut o oprire imediată a "experimentelor" de antrenare legate de modelele mari de limbaj care sunt "mai puternice decât GPT-4", produsul emblematic al OpenAI. Până acum, peste 25.000 de oameni au semnat scrisoarea.

"Presiunea competitivă dintre giganți precum Google și start-up-uri de care nici n-ați auzit vreodată impinge umanitatea în viitor, pregătită sau nu", a comentat Pelley în timpul emisiunii.

Google a lansat un document care prezintă "recomandări pentru reglementarea AI", dar Pichai a spus că societatea trebuie să se adapteze rapid cu reglementări, legi pentru a pedepsi abuzurile și tratate între națiuni pentru a face AI sigur pentru oameni, precum și reguli care "se aliniază cu valorile umane, inclusiv moralitatea".

"Nu este treaba unei companii să decidă aceste lucruri", a spus Pichai. "De aceea cred că dezvoltarea AI trebuie să includă nu doar ingineri, ci și oameni de științe sociale, eticieni, filosofi și așa mai departe."

Când a fost întrebat dacă societatea este pregătită pentru Bard, Pichai a răspuns: "Nu simt asta, deoarece ritmul la care putem gândi și ne putem adapta ca instituții sociale, în comparație cu ritmul la care tehnologia evoluează, pare să fie inegal."

Cu toate acestea, el a adăugat că este optimist, deoarece, în comparație cu alte tehnologii din trecut, un număr semnificativ de oameni au început să-și pună întrebări din timp cu privire la implicațiile AI.

Pelley i-a dat lui Bard șase cuvinte din care acesta a creat o poveste cu personaje și intrigă, incluzând un bărbat al cărui soție nu putea rămâne gravidă și o femeie care suferă după o pierdere de sarcină și caută să se împace cu situația. "Rareori rămân fără cuvinte", a spus Pelley. "Umanitatea la o viteză supraomenească este șocantă."

Pelley a spus că l-a întrebat pe Bard de ce ajută oamenii și acesta a răspuns: "pentru că mă face fericit", ceea ce l-a șocat. "Bard pare să gândească", i-a spus el lui James Manyika, SVP (Senior Vice President) pe care Google l-a angajat anul trecut ca șef ”pentru tehnologii și societate". Manyika a răspuns că Bard nu este conștient și nu este conștient de sine, dar se poate "comporta ca și cum ar fi".

Pichai a confirmat că Bard are halucinații după ce Pelley a explicat că l-a întrebat pe Bard despre inflație și a primit un răspuns instantaneu cu sugestii pentru cinci cărți, pe care, când le-a căutat mai târziu, a descoperit că nu există.

Pelley s-a arătat îngrijorat când Pichai a spus că există "o cutie neagră" a chatbot-ului, pe care "nu o înțelegi pe deplin" de ce sau cum generează anumite răspunsuri.

Pichai folosește metafora "cutiei negre" pentru a sugera că există un proces intern care este ascuns de utilizator și care poate fi dificil de înțeles sau de controlat. Cu alte cuvinte, chiar și dezvoltatorii de programe chatbot nu pot fi întotdeauna siguri de modul în care aceste programe iau decizii sau formulează răspunsuri.

"Nu înțelegeți pe deplin cum funcționează și totuși l-ați eliberat în societate?" a întrebat Pelley. Sundar Pichai a răspuns: "Să spunem că nu cred că înțelegem pe deplin cum funcționează mintea umană".

Sursa: adevarul.ro


Citește și:

populare
astăzi

1 VIDEO „Ucrainenii au luat 8.000 de telefoane mobile și le-au pus pe stâlpi de doi metri, așa detectează dronele Shahed”

2 Retragerea lui Piedone a devenit o chestiune de zile...

3 Dezvăluirile neașteptate ale șefului serviciului secret din Ucraina

4 Culisele uriașului scandal care zguduie regimul Orban, în Ungaria

5 Așa o fi? /