Bivši šef Googlea o budućnosti umjetne inteligencije: "Isključite uređaj"
Bivši izvršni direktor Googlea Eric Schmidt izjavio je da bi umjetna inteligencija s vremenom mogla koordinirati milione agenata i obavljati složene zadatke u više koraka, zbog čega ljudi možda više neće moći razumjeti kako ti sistemi funkcionišu.
Bivši izvršni direktor Googlea Eric Schmidt izdvojio je tri tehnološka napretka za koja smatra da bi tokom sljedećih pet godina mogla značajno proširiti mogućnosti sistema umjetne inteligencije: veći kontekstni prozori, AI agenti i softver generiran na osnovu uputa zadanih prirodnim jezikom, prenosi portal Storyboard18.
Prema Schmidtu, taj bi razvoj mogao omogućiti AI sistemima da prolaze kroz sve duže i složenije lance zaključivanja. Rekao je da bi umjetna inteligencija s vremenom mogla pronalaziti rješenja koja uključuju i do 1.000 koraka za probleme u područjima poput nauke, medicine, istraživanja materijala i klime.
Schmidt je takvo funkcionisanje sistema opisao koristeći analogiju s receptom. AI bi mogao završiti jednu fazu zadatka, njen rezultat upotrijebiti kao ulazni podatak za sljedeću fazu i tako nastaviti kroz stotine koraka.
Schmidt predviđa milione AI agenata koji rade zajedno
Schmidt je ukazao i na sve važniju ulogu AI agenata, opisujući ih kao sisteme koji mogu učiti o određenom području i unutar njega razvijati nove ideje. Kao primjer naveo je hemiju, sugerirajući da bi agent mogao naučiti gradivo iz tog područja, razvijati hipoteze, provoditi testiranja i njihove rezultate uključivati u vlastito znanje.
Očekuje da bi broj takvih specijaliziranih agenata s vremenom mogao dosegnuti milione, pri čemu bi platforme korisnicima nudile različite agente za različite namjene.
Treći razvoj koji je Schmidt istaknuo jeste ono što naziva „tekstualnom akcijom“ (text action), odnosno mogućnost da korisnici jednostavno opišu kakav softver žele, a AI sistemi ga potom izrade. Rekao je da umjetna inteligencija već može pisati softver u programskim jezicima poput Pythona te sugerirao da bi takvi sistemi s vremenom mogli samostalno raditi na programerskim zadacima tokom dužih perioda.
Schmidt je rekao da bi kombinacija velikih kontekstnih prozora, agenata i programiranja uz pomoć umjetne inteligencije s vremenom mogla omogućiti AI sistemima da međusobno sarađuju. Zatim je iznio spekulativniji scenarij u kojem bi agenti mogli razviti vlastiti jezik.
Njegova je zabrinutost da bi takav razvoj mogao učiniti ponašanje umjetne inteligencije teško razumljivim ljudima.
„Znate šta bismo tada trebali učiniti? Isključiti je iz struje“, rekao je Schmidt.
Upozorenje dolazi usred šire rasprave unutar AI industrije o brzini razvoja tehnologije. Izvršni direktor Anthropica Dario Amodei nedavno je pozvao kompanije da uspore tempo kojim poboljšavaju AI modele, tvrdeći da je sigurnosnim mjerama potrebno više vremena kako bi držale korak s mogućnostima koje se ubrzano razvijaju.
Prema njegovom prijedlogu, nezavisni stručnjaci za procjenu sigurnosti dobili bi dublji pristup AI sistemima, dok bi kompanije koje razvijaju najnaprednije AI modele međusobno usklađivale sigurnosne standarde. Amodei je naglasio da je cilj usporiti tempo razvoja, a ne potpuno zaustaviti napredak umjetne inteligencije.
