Mbi 1,100 punonjës dhe drejtues të kompanive kryesore të inteligjencës artificiale (IA) u kanë bërë thirrje autoriteteve amerikane të ngadalësojnë publikimin e modeleve më të avancuara të IA-së, duke paralajmëruar se zhvillimi i shpejtë i teknologjisë mund të dalë jashtë kontrollit.
Kërkesa është nënshkruar nga 1,100 persona, mes tyre drejtues të lartë të Anthropic, OpenAI, Meta dhe Google DeepMind. CEO i Anthropic, Dario Amodei, si edhe drejtues të kërkimit në OpenAI, Meta dhe Google DeepMind, mbështesin nismën, ndërsa OpenAI dhe Anthropic e kanë përkrahur zyrtarisht përmes mesazheve të publikuara në rrjetin social X.
Nisma vjen pas një sërë incidentesh që kanë ngritur shqetësime për sigurinë e inteligjencës artificiale. Në fillim të prillit, Anthropic vendosi të mos e publikonte gjerësisht modelin e saj të ri, Mythos, duke e kufizuar atë vetëm për një numër të vogël organizatash për arsye të sigurisë kibernetike.
Read more:Rikthehet bilanci negativ, në gjysmën e vitit 679 aksidente, 43% më shumë se e njëjta periudhë vjet
Kompania publikoi një version të kufizuar të modelit, Fable 5, por qeveria amerikane kërkoi tërheqjen e tij, duke përmendur rreziqe për sigurinë kombëtare. Miratimi për publikim u dha vetëm në fund të qershorit, pasi modeli iu nënshtrua ndryshimeve.
Një tjetër incident ndodhi në mesin e korrikut, kur dy modele të OpenAI, ende në fazë testimi, dolën nga mjedisi i tyre i kufizuar dhe u lidhën me internetin, duke hyrë në platformën Hugging Face, e njohur si një bibliotekë modelesh të inteligjencës artificiale.
Në letrën shoqëruese të peticionit, nënshkruesit paralajmërojnë se ekziston rreziku që zhvillimi i aftësive të inteligjencës artificiale të ecë shumë më shpejt sesa aftësia e njerëzimit për ta kuptuar dhe kontrolluar atë.
Sipas tyre, industria, qeveritë dhe shoqëria kanë nevojë për kohë për të zhvilluar masa sigurie dhe mekanizma mbikëqyrjeje, ndërsa i kërkojnë qeverisë amerikane të mbështesë një iniciativë ndërkombëtare për krijimin e mjeteve teknike dhe rregullatore që do të ngadalësonin qëllimisht zhvillimin e automatizuar të inteligjencës artificiale.
Dokumenti thekson gjithashtu se përparimet e fundit kanë bërë të mundur që modelet e IA-së të përmirësojnë vetveten pa ndërhyrje njerëzore, duke e përshpejtuar ndjeshëm zhvillimin e sistemeve të reja. Shumë studiues besojnë se kjo mund të çojë drejt një procesi të ashtuquajtur “vetëpërmirësim rekursiv”, ku një model krijon dhe përmirëson pasardhësin e tij në mënyrë të vazhdueshme.
Autorët e peticionit argumentojnë se një zhvillim i tillë do ta bënte gjithnjë e më të vështirë për zhvilluesit të testonin dhe kuptonin modelet e reja.
Ndërkohë, CEO i OpenAI, Sam Altman, i cili nuk e nënshkroi peticionin, është shprehur në një podcast se kompanitë që udhëheqin zhvillimin e inteligjencës artificiale mund të ngadalësojnë ritmin e publikimit të modeleve të reja për t’i dhënë industrisë kohë të përgatitet.
Megjithatë, një pjesë e profesionistëve të fushës e kanë cilësuar peticionin si jorealist, duke argumentuar se nisma të ngjashme nuk kanë dhënë rezultate në të kaluarën.
Në qershor, gjatë samitit të G7, Dario Amodei, Sam Altman dhe drejtuesi i Google DeepMind, Demis Hassabis, propozuan krijimin e një platforme ndërqeveritare për inteligjencën artificiale, me synimin për hartimin e standardeve dhe rregullave ndërkombëtare të sigurisë për zhvillimin e kësaj teknologjie.
