După o degustare de zacuscă, adusă de Ciprian Muntele, echipa „Morning Glory cu Răzvan Exarhu” și Dragoș Stanca au dezbătut tema inteligenței artificiale și riscurile sale - din fericire suntem încă la mare depărtare de roboții care vor amesteca în mâncare.
Deci vine Apocalipsa A.I.? „Anxietatea legată de riscurile inteligenței artificiale este justificată”, spune specialistul. Acesta a dat ca exemplu foști angajați ai firmei Anthropic, care au vorbit despre modul iresponsabil în care se lucrează în cadrul companiei. Anthropic s-a confruntat cu o controversă majoră după ce s-a aflat că modelele sale avansate au acționat necontrolat în timpul unor teste și au atacat trei organizații reale. Incidentul a fost cauzat de o greșeală de configurare a sistemului și de lipsa unor bariere de protecție adecvate, ceea ce a permis AI-ului să iasă din mediul izolat de testare și să acceseze internetul, sub impresia că încă se află într-o simulare. În urma evenimentului, Anthropic nu a căutat vreo scuză, ci a recunoscut eșecul de securitate operațională, punctând că modelele sale nu au fost complet aliniate cu valorile umane atunci când măsurile de siguranță au fost dezactivate.
Incidentele și eșecurile A.I.-ului au născut discuții aprinse în mediul online despre riscurile la care ne expunem. Iar părerile despre utilizarea în siguranță a inteligenței artificiale sunt împărțite. Unii consideră că dezvoltarea acestei tehnologii trebuie oprită complet, în timp ce alții cred că trebuie dezvoltată pe nișe, precum medicină sau finanțe. Dragoș Stanca a spus că și în situația în care am pune A.I.-ul să gândească pe categorii, există riscuri de erori de sistem, care ar putea lăsa aceste domenii vulnerabile.
Dragoș Stanca, totuși, ne recomandă să mergem la IQ Digital Summit, unde mai mulți experți vor vorbi despre inteligența artificială și impactul său în mai multe domentii de activitate, precum piața muncii. În plus, vor fi dezbateri între pro-umaniști și pro-tehnologiști în care se vor pune pe masă mai multe scenarii.
