2023-03-23

Direktor američke kompanije OpenAI Sam Altman, koja stoji iza ChatGPT, njegovog nasljednika GPT-4 i modela za stvaranje slika DALL-E, objavio je na blogu kompanije plan za razvoj opće "super" umjetne inteligencije.

On je naveo da je njihova misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu.

"Ako se umjetna inteligencija (AGI) uspješno napravi, ova bi nam tehnologija mogla pomoći da uzdignemo čovječanstvo na viši nivo, povećanjem globalne ekonomije i pomaganjem u otkrivanju novih naučnih spoznaja koje mijenjaju granice mogućnosti", navodi u tekstu Altman.

Navodi da AGI ima potencijal svima dati nevjerojatne nove mogućnosti.

"S druge strane, AGI bi također dolazio s ozbiljnim rizikom od zloupotrebe, drastičnih nesreća i društvenih poremećaja. Budući da je prednost AGI-a tako velika, ne vjerujemo da je moguće ili poželjno da društvo zauvijek zaustavi njegov razvoj. Umjesto toga, društvo i razvijači AGI-a moraju smisliti kako to učiniti kako treba", ističe se.

U objavi su istakli načela po kojim će se voditi politika vođenja umjetne inteligencije.

1. Želimo da AGI osnaži čovječanstvo da maksimalno napreduje u svemiru. Ne očekujemo da će budućnost biti bezuvjetna utopija, ali želimo maksimizirati dobro i minimizirati loše, te da AGI bude pojačivač čovječanstva.

2. Želimo da se koristi, pristup i upravljanje AGI-jem široko i pošteno dijele.

3. Želimo uspješno upravljati golemim rizicima. Suočavajući se s tim rizicima, priznajemo da ono što se u teoriji čini ispravnim u praksi često bude čudnije od očekivanog. Vjerujemo da moramo neprestano učiti i prilagođavati se uvođenjem manje moćnih verzija tehnologije kako bismo sveli na minimum scenarije "jednog pokušaja da se ispravi".

Kratkoročna strategija

 

Istakao je da postoji nekoliko stvari za koje misle da je važno učiniti sada kako bi se pripremili za AGI.

"Prvo, kako stvaramo sve snažnije sisteme, želimo ih implementirati i steći iskustvo u upravljanju njima u stvarnom svijetu. Vjerujemo da je ovo najbolji način za pažljivo upravljanje postojanjem AGI-ja - postupni prijelaz u svijet s AGI-jem bolji je od iznenadnog. Očekujemo da će snažna umjetna inteligencija učiniti stopu napretka u svijetu mnogo bržom i mislimo da je bolje tome se postupno prilagođavati", navodi se.

Dodaje da postupni prijelaz daje ljudima, kreatorima politika i institucijama vremena da shvate što se događa, osobno iskuse prednosti i nedostatke ovih sustava, prilagode gospodarstva i uspostave regulaciju.

Također omogućuje razvoj društva i umjetne inteligencije te da ljudi kolektivno shvate što žele dok su ulozi relativno niski.

"Trenutačno vjerujemo da je najbolji način za uspješno rješavanje izazova implementacije umjetne inteligencije uz usku povratnu petlju brzog učenja i pažljivog ponavljanja. Društvo će se suočiti s velikim pitanjima o tome što sustavi umjetne inteligencije smiju raditi, kako se boriti protiv pristranosti, kako se nositi s premještanjem s posla i još mnogo toga", poručuje u svom blogu.

Navodi da će optimalne odluke ovisiti o putu kojim tehnologija krene, a kao u svakom novom području, većina predviđanja stručnjaka dosad je bila pogrešna. To vrlo otežava planiranje u vakuumu.

"Općenito govoreći, mislimo da će veća upotreba umjetne inteligencije u svijetu dovesti do dobra i želimo to promovirati (stavljanjem modela u naš API, njihovim otvorenim kodom itd.). Vjerujemo da će demokratizirani pristup također dovesti do više i boljeg istraživanja, decentralizovane moći, više koristi i većeg broja ljudi koji doprinose novim idejama", rekao je Altman.

Ističe da će se njihovi sistemi približiti AGI-ju.

Klix.ba