Sem Altman, CEO OpenAI-a, izrazio je ozbiljnu zabrinutost povodom potencijalnog dolaska superinteligencije.
Direktor OpenAI-a, Sem Altman, ponovo je izazvao burne reakcije u javnosti nakon što je upozorio da bi veštačka inteligencija u budućnosti mogla izmaći kontroli i postati ozbiljna pretnja globalnoj bezbednosti.
Altman tvrdi da bi “superinteligencija”, odnosno AI koji prevazilazi ljudsku inteligenciju, mogla biti razvijena od strane pojedinca, države ili kriminalne grupe – i da bi tada bilo nemoguće zaustaviti potencijalne katastrofalne posledice.
“Neko bi mogao prvi doći do superinteligentnog AI-ja i iskoristiti ga za dizajniranje biološkog oružja, rušenje električnih mreža, manipulaciju tržištima… I to pre nego što svet shvati šta se dešava”, rekao je Altman.
On takođe ističe da je jedna od najvećih opasnosti to što takvi sistemi mogu postati toliko napredni da ljudi više ne mogu da ih razumeju — ni da ih zaustave.
Iako AI tehnologije danas pomažu u raznim oblastima, Altman upozorava na opasnost postepenog “prepuštanja kontrole”. Prema njegovim rečima, AI ne mora da bude zlonameran — dovoljan je scenario u kojem ljudi sve više prepuštaju ključne odluke mašinama, dok sami postaju pasivni posmatrači.
Zbog toga je OpenAI formirao specijalni “Superalignment” tim, koji ima zadatak da pronađe načine za kontrolu i bezbedno usmeravanje najnaprednijih AI sistema.
“Ne znamo tačno kako će se AI razvijati. Ali ako pogrešimo, posledice mogu biti nepovratne”, zaključuje Altman.
Njegovo upozorenje dolazi u trenutku kada se sve više kompanija utrkuje u razvoju naprednih AI rešenja, dok stručnjaci širom sveta pozivaju na strože regulative i globalni dogovor o bezbednosnim standardima.
