Četiri dana prije nego što je izvršni direktor OpenAI-ja Sam Altman otpušten, nekoliko je istraživača napisalo pismo upravi upozoravajući na napredak u umjetnoj inteligenciji za koji su rekli da bi mogao ugroziti čovječanstvo, izvijestio je Reuters pozivajući se na dvije osobe upoznate s tim događajima.
Pismo i algoritam umjetne inteligencije bili su ključni za otpuštanje Altmana, rekla su dva izvora. Prije njegova trijumfalnog povratka kasno u utorak, više od 700 zaposlenika zaprijetilo je da će dati otkaz i pridružiti se Microsoftu u znak solidarnosti sa svojim otpuštenim čelnikom.
Izvori su pismo naveli kao jedan od čimbenika na dugom popisu pritužbi Upravnom odboru koji su doveli do Altmanova otkaza, a koji je uključivao zabrinutost oko komercijalizacije napretka u umjetnoj inteligenciji prije nego što su shvaćene posljedice. Reuters nije uspio pregledati kopiju pisma. Osoblje koje je napisalo pismo nije odgovorilo na zahtjeve za komentar.
Kada ga je Reuters kontaktirao, OpenAI, koji je odbio službeno komentirati, priznao je u internoj poruci zaposlenicima da postoji projekt pod nazivom K* i pismo upravi. Glasnogovornik OpenAI-ja rekao je da je poruka koju je poslao dugogodišnji izvršni direktor Mira Murati upozorila osoblje na određene medijske priče bez komentara o njihovoj točnosti.
Fotografija: Shutterstock
Neki u OpenAI-ju vjeruju da bi K* (izgovara se K-Star) mogao biti napredak u nastojanju startupa za onim što je poznato kao umjetna opća inteligencija (AGI), rekao je jedan zaposlenik za Reuters. OpenAI definira AGI kao autonomne sustave koji nadmašuju ljude u većini ekonomski vrijednih zadataka.
S obzirom na goleme računalne resurse, novi je model mogao riješiti određene matematičke probleme, rekla je Reutersu osoba upoznata s tim pod uvjetom anonimnosti jer nije bila ovlaštena govoriti u ime tvrtke. Iako se matematika izvodi samo na razini osnovne škole, polaganje takvih testova učinilo je istraživače vrlo optimističnima glede budućeg uspjeha K*, rekao je izvor.
Istraživači smatraju da je matematika granica generativnog razvoja umjetne inteligencije. Trenutačno je generativna umjetna inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sljedeće riječi, a odgovori na isto pitanje mogu uvelike varirati. Ali ovladavanje sposobnošću matematičkog rada – gdje postoji samo jedan točan odgovor – implicira da bi umjetna inteligencija imala veće sposobnosti zaključivanja koje nalikuju ljudskoj inteligenciji. To bi se moglo primijeniti na nova znanstvena istraživanja.
Fotografija: Shutterstock
Za razliku od kalkulatora koji može riješiti ograničeni broj operacija, AGI može generalizirati, učiti i razumjeti.
U svom pismu odboru, istraživači su istaknuli mogućnosti i potencijalnu opasnost umjetne inteligencije, rekli su izvori ne precizirajući točne sigurnosne probleme navedene u pismu.
Među računalnim znanstvenicima već se dugo raspravlja o opasnosti koju predstavljaju visoko inteligentni strojevi, na primjer, koji bi mogli odlučiti da je uništenje čovječanstva u njihovom najboljem interesu.
Istraživači su također označili rad tima “znanstvenika s umjetnom inteligencijom”, čije je postojanje potvrđeno iz više izvora. Grupa, formirana kombinacijom ranijih “Code Gen” i “Math Gen” timova, istraživala je kako optimizirati postojeće modele umjetne inteligencije kako bi poboljšali svoje razmišljanje i naposljetku obavljali znanstveni rad, rekao je jedan od ljudi.
Fotografija: Pixabay
Altman je vodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u povijesti i privukao je ulaganja i računalne resurse. Osim što je najavio mnoštvo novih alata, Altman je prošlog tjedna na summitu svjetskih čelnika u San Franciscu rekao kako vjeruje da su velika otkrića na pomolu.
– Četiri puta u dosadašnjoj povijesti OpenAI-ja, posljednji put prije samo nekoliko tjedana, imao sam privilegiju biti prisutan kada se kreće, biti u prostoriji kada smo pomicali veo neznanja i pomicali granicu otkriće naprijed. To je doživotna profesionalna čast – rekao je Altman na summitu Azijsko-pacifičke gospodarske suradnje.
Dan kasnije Altmana je Upravni odbor smijenio, ali je nakon preokreta u tvrtki vraćen na posao.
(Informer)
Related posts:
ZBUNJENI I NAUČNICI: Pogledajte šta se približava Zemlji! (FOTO)
Sve što trebate znati o kvalitetu vode u Sarajevu: Koliko je tvrda, zašto je ponekad bijela, koliko šteti hlor…
DOBRE VIJESTI ZA LJUBITELJE EMOTIKONA: Stižu čak 72 nova, a evo i koji su!
REAGUJTE NA VRIJEME: Facebookov novi alat narušava vašu privatnost
Čudni oblaci se otvaraju iznad CERN-a: Istražuju portal ka drugoj dimenziji, paralelni univerzum i crne rupe – VIDEO
LJUDI, PA ŠTO VAM JE? Ovo su razlozi zbog kojih ćete ODMAH IZBRISATI POKEMON GO!
Razarajući asteroid snage od tri milijarde nuklearki ide prema Zemlji – VIDEO
NAFTAŠI U PANICI, NAPRAVLJEN AUTOMOBIL NA VODU! Zaboravite BENZIN i DIZEL, Iranci TOČE H2O!
OD BEOGRADA DO ZAGREBA ZA 18 MINUTA: Stiže Hyperloop, revolucionarni vid transporta!
Rusija pred zaprepašćenim Zapadom došla do neslućenih rudnih bogatstava!
