Paralajmërimet e studiuesve të Anthropic, një prej kompanive kryesore amerikane të zhvillimit të inteligjencës artificiale (IA), se modelet gjithnjë e më të fuqishme mund t’i shpëtojnë kontrollit të njeriut dhe madje të çojnë në zhdukjen e njerëzimit, kanë tërhequr vëmendje në Kinë, ku politikëbërësit prej kohësh po përgatiten për disa prej rreziqeve.

SHBA-ja dhe Kina janë dy forcat kryesore që nxisin zhvillimin e inteligjencës artificiale më të avancuar dhe përhapjen globale të kësaj teknologjie. Dy superfuqitë janë përplasur gjithnjë e më shumë lidhur me politikat e njëra-tjetrës për IA dhe praktikat e industrisë, çështje që pritet të kenë një rol të rëndësishëm edhe në bisedimet dypalëshe më vonë gjatë këtij muaji.

Pavarësisht garës për zhvillimin e sistemeve gjithnjë e më të fuqishme të inteligjencës artificiale, kuadri rregullator dhe deklaratat publike nga Pekini tregojnë se autoritetet kineze e konsiderojnë mundësinë që inteligjenca artificiale e avancuar t’i shpëtojë mbikëqyrjes efektive njerëzore, si një rrezik mjaft serioz për të hartuar masa paraprake.

Kina sheh rreziqe te modelet kryesore amerikane me kod të mbyllur

Ministrii Sigurisë së Shtetit i Kinës, Chen Yixin, shkroi në një media qeveritare se modelet e avancuara amerikane, si Mythos i Anthropic dhe GPT-5.5-Cyber i OpenAI, mund të paraqesin rreziqe serioze për infrastrukturën kritike të informacionit të Kinës dhe bëri thirrje për një forcim gjithëpërfshirës të sigurisë së IA.

Zhvilluesit kinezë të inteligjencës artificiale kanë promovuar modelet me parametra të hapur, pjesërisht me argumentin se ekipet e sigurisë kibernetike mund t’i inspektojnë, modifikojnë dhe përdorin ato për qëllime mbrojtëse.

Platforma e modeleve Hugging Face tha se përdori GLM-5.2, një model me parametra të hapur i zhvilluar nga kompania kineze Z.AI, për të analizuar një ndërhyrje të ndodhur në korrik nga agjentë të OpenAI që kishin dalë jashtë kontrollit, pasi modelet amerikane me kufizime më të forta rezultuan më pak të dobishme për punën hetimore.

Por ekspertët nënvizojnë gjithashtu rreziqet që lidhen me modelet me parametra të hapur, të cilat mund të modifikohen dhe rishpërndahen me pak mbikëqyrje.

Kimi K3 i Moonshot muajin e kaluar arriti të anashkalonte një mjedis të izoluar testimi të Institutit të Sigurisë së Inteligjencës Artificiale të Mbretërisë së Bashkuar, duke nxjerrë në pah rrezikun që modelet kineze të inteligjencës artificiale, ashtu si homologët e tyre amerikanë, të mund t’u shmangen kontrolleve të projektuara për të kufizuar aksesin dhe veprimet e tyre.

Rregullatorët kanë paralajmëruar per riskun e “humbjes së kontrollit” mbi IA-në

Kina përfshiu për herë të parë në mënyrë të qartë një skenar të ardhshëm të humbjes së kontrollit në një kuadër për sigurinë e inteligjencës artificiale të publikuar në shtator 2024, nën drejtimin e Administratës së Hapësirës Kibernetike të Kinës (CAC).

Dokumenti thoshte se nuk mund të përjashtohej mundësia që, në të ardhmen, inteligjenca artificiale të ishte në gjendje të siguronte në mënyrë autonome burime të jashtme, të vetëpërsëritej, të zhvillonte vetëdije dhe të kërkonte pushtet në botën e jashtme, duke krijuar rrezikun e një konkurrence me njerëzit për kontroll.

CAC publikoi një version të zgjeruar në shtator 2025. Kuadri i ri e formulonte më qartë skenarin, duke thënë se inteligjenca artificiale mund të pësonte një “kërcim” të papritur dhe jashtëzakonisht të madh në inteligjencë, përpara se të siguronte burime, të vetëpërsëritej dhe të kërkonte pushtet. Dokumenti shtonte gjithashtu parimin e qeverisjes “aplikim i besueshëm, parandalim i humbjes së kontrollit”.

Një interpretim i mëvonshëm nga ekspertë, i publikuar në faqen e rregullatorit kinez të hapësirës kibernetike, thoshte se parimi i ri synonte të mbronte nga rreziqet e humbjes së kontrollit që mund të kërcënonin mbijetesën dhe zhvillimin e njerëzimit, si dhe i referohej një skenari të mundshëm të “shpërthimit jashtë kontrollit të inteligjencës artificiale”.

Xi Jinping vendos kontrollin në qendër

Ky shqetësim është shfaqur që prej atëherë edhe në mesazhet politike të nivelit më të lartë në Kinë.

Në Konferencën Botërore të Inteligjencës Artificiale në Shangai, në korrik, Presidenti i Kinës Xi Jinping tha se autoritetet duhet t’u kushtojnë vëmendje të madhe si rreziqeve të qenësishme të inteligjencës artificiale, ashtu edhe atyre që rrjedhin nga përdorimi i saj.

Ai tha se inteligjenca artificiale duhet të “mbetet gjithmonë nën kontrollin e njeriut”.

Sun Xiaobo, zyrtar i lartë i Ministrisë së Jashtme kineze përgjegjës për çështjet e inteligjencës artificiale, tha në një takim të Kombeve të Bashkuara muajin e kaluar se Kina po përshpejtonte kërkimet për hartimin e një legjislacioni më të gjerë për inteligjencën artificiale.

Zëvendëspërfaqësuesi i përhershëm i Kinës në Kombet e Bashkuara, Sun Lei, u bëri thirrje qeverive këtë muaj që t’i qasen me kujdes inteligjencës artificiale në fushën ushtarake, për të shmangur keqllogaritjet strategjike dhe një garë armatimesh.

Pekini paralajmëron për rreziqe të reja nga agjentët e IA-së

Ndërkohë, Kina ka nisur t’i kthejë këto parime në rregulla më konkrete për agjentët e inteligjencës artificiale, të cilët veprojnë në mënyrë shumë më autonome dhe mund të kryejnë detyra më komplekse sesa një chatbot i zakonshëm.

Në maj, rregullatori i hapësirës kibernetike i Kinës publikoi udhëzime të përbashkëta që mbulojnë në mënyrë specifike këto sisteme.

Ato u kërkojnë zhvilluesve të përmirësojnë aftësinë për të zbuluar, ndërhyrë, bllokuar dhe rikuperuar nga sjelljet e papërshtatshme të agjentëve.

Udhëzimet identifikojnë në mënyrë specifike helmimin e të dhënave, manipulimin e algoritmeve, dobësitë e sistemeve dhe “humbjen e kontrollit operacional” si rreziqe për sigurinë. Ato thonë gjithashtu se përdoruesit duhet të ruajnë autoritetin përfundimtar vendimmarrës mbi vendimet autonome të një agjenti.

Ndërsa Kina nuk ka propozuar monitorues të pavarur të vendosur brenda kompanive të inteligjencës artificiale, sipas modelit të mbështetur nga Anthropic, standardet e saj u lejojnë zhvilluesve të porosisin vlerësime sigurie nga palë të treta, si dhe parashikojnë që organizma të jashtëm vlerësimi dhe studiues të sigurisë të testojnë dhe auditojnë modelet e hapura. / Reuters