Osnivač OpenAI: Ne spavam zbog pomisli da smo pogriješili

 Izvršni direktor i osnivač kompanije OpenAI, Sam Altman

Izvršni direktor i osnivač kompanije OpenAI, Sam Altman, priznao je kako ne spava noću razmišljajući o opasnostima koje sa sobom nosi ChatGPT, glavni proizvod te kompanije.

Tokom nedavne posjete Indiji, Altman je izrazio zabrinutost da je možda učinio “nešto stvarno loše” stvaranjem ChatGPT-a, AI tehnologije koja je pokrenuta u novembru i izazvala je velik interes za umjetnu inteligenciju.

“Najviše me brine hipotetska ideja da smo već učinili nešto stvarno loše pokretanjem ChatGPT-a”, rekao je Altman Satyanu Gajwaniju, potpredsjedniku Times Interneta, na događaju koji je u srijedu organizirao Economic Times.

Altman je izrazio zabrinutost da je “možda bilo nešto teško i komplicirano” što njegov tim nije prepoznao prilikom rada na chatbotu. Na pitanje treba li AI regulirati na sličan način kao i atomsku energiju, Altman je rekao da mora postojati bolji sustav za reviziju procesa.

“Trebamo uspostaviti sustav kako bismo mogli nadzirati ljude koji se bave time, licencirati to, provoditi sigurnosne testove prije primjene”, rekao je.

U martu je skupina tehnoloških lidera, uključujući Elona Muska i suosnivača Applea Stevea Wozniaka, napisala otvoreno pismo u suradnji s Future of Life Institute kako bi upozorila da se moćni AI sustavi trebaju razvijati samo kada postoji povjerenje da će njihovi učinci biti pozitivni i da su rizici upravljivi.

Pismo je pozvalo na šestomjesečnu stanku u treniranju AI sustava moćnijih od GPT-4. Altman je rekao da pismo “nema tehničku nijansu o tome gdje nam je točno potrebna pauza.”

Početkom ovog mjeseca, Altman je bio među skupinom od više od 350 znanstvenika i tehničkih lidera koji su potpisali izjavu izražavajući duboku zabrinutost zbog rizika od AI-ja.

“Smanjenje rizika od izumiranja od AI-a trebalo bi biti globalni prioritet uz ostale rizike na razini društva, poput pandemija i nuklearnog rata”, stoji u izjavi, piše Index.hr.