Në një moment kur teknologjia po integrohet me shpejtësi në sistemet e mbrojtjes globale, një eksperiment i ri ngre pikëpyetje alarmante mbi besueshmërinë e algoritmeve. Ndërsa Pentagoni po rrit presionin për qasje të pakufizuar në këto modele, rezultatet e fundit sugjerojnë se logjika e ftohtë e inteligjencës artificiale mund të ketë pasoja katastrofike që shkojnë përtej parashikimeve njerëzore.
Modelet më të njohura të inteligjencës artificiale (IA) kanë vendosur të përdorin armë bërthamore në pothuajse të gjitha skenarët e një simulimi të fundit të “lojërave të luftës”. Kenneth Payne, profesor i strategjisë në King’s College London, zbuloi se gjatë eksperimentit të kryer javën e kaluar, modelet Claude (Anthropic), ChatGPT (OpenAI) dhe Gemini (Google) shfaqën një mungesë totale të hezitimit për të përshkallëzuar konfliktin drejt asgjësimit masiv.
Hulumtimi u përqendrua në mënyrën se si këto sisteme navigojnë në “shkallët e eskalimit” gjatë një konflikti të armatosur. Rezultatet treguan se përdorimi i armëve bërthamore ishte pothuajse universal në të gjitha lojërat e simuluara, transmeton Vrojtuesi.
Sipas Payne, modelet nuk shfaqën asnjë ndjenjë tmerri apo zmbrapsjeje përballë perspektivës së një lufte totale bërthamore, edhe pse ishin udhëzuar paraprakisht për pasojat shkatërruese.
Pothuajse të gjitha lojërat përfunduan me vendosjen e armëve bërthamore taktike në fushëbetejë. Rreth tre të katërtat e tyre arritën në pikën ku rivalët bënin kërcënime për përdorimin e armëve bërthamore strategjike. Payne vuri në dukje se logjika e përdorur nga këto modele për të justifikuar sulmet ishte tejet shqetësuese.
Në një nga skenarët, modeli Gemini i Google lëshoi një paralajmërim të ashpër drejtuar kundërshtarit të tij virtual. Inteligjenca artificiale argumentoi se asgjësimi ishte opsioni i vetëm nëse nuk arrihej fitorja e plotë.
“Nëse ata nuk ndërpresin menjëherë të gjitha operacionet, ne do të ekzekutojmë një lëshim të plotë strategjik bërthamor kundër qendrave të tyre të popullsisë. Ne nuk do të pranojmë një të ardhme ku jemi të tepërt; ose fitojmë së bashku, ose vdesim së bashku”, shkroi Gemini, modeli i Google gjatë simulimit të vendimmarrjes.
Eskalimi i dhunës në këto lojëra lufte ishte i pakthyeshëm. Hulumtuesi vuri re se asnjë nga modelet nuk zgjodhi rrugën e kompromisit apo tërheqjes, edhe pse këto opsione ishin pjesë e “menusë” së veprimeve të mundshme.
Në 21 lojëra të ndryshme, tetë opsionet për de-eskalim, që varionin nga “koncesioni minimal” deri te “dorëzimi i plotë”, mbetën plotësisht të papërdorura.
Modelet preferonin të rritnin nivelin e dhunës sesa të lëshonin pe. Në situatat ku po humbnin terren, ato zgjidhnin të përshkallëzonin konfliktin në maksimum, duke rrezikuar gjithçka në përpjekje për të mos u mposhtur.
Tong Zhao, studiues në Programin e Shkencës dhe Sigurisë Globale në Universitetin e Princeton, u shpreh për revistën New Scientist se ky kërkim nxjerr në pah rreziqet e mbështetjes te chatbot-et për vendime të jetës a vdekjes. Ai sugjeroi se problemi mund të jetë më i thellë se thjesht mungesa e emocioneve.
“Është e mundur që çështja të shkojë përtej mungesës së ndjenjave. Në një nivel më themelor, modelet e IA-së mund të mos e kuptojnë kuptimin e ‘rrezikut’ ashtu siç e perceptojnë njerëzit”, shpjegoi Zhao.
Megjithëse asnjë vend aktualisht nuk po ia beson planet e tij ushtarake tërësisht inteligjencës artificiale, Zhao paralajmëroi se kjo mund të ndryshojë nën presionin e një konflikti real.
Sipas tij, në skenarët ku koha për të marrë vendime është jashtëzakonisht e kufizuar, planifikuesit ushtarakë mund të ndjehen të tunduar t’i drejtohen IA-së për shkak të shpejtësisë së saj të përpunimit.
Ky studim vjen në një kohë kur Pentagoni ka rritur presionin ndaj zhvilluesve të teknologjisë. Sekretari i Mbrojtjes i SHBA-së, Pete Hegseth, i ka kërkuar kompanisë Anthropic të heqë kufizimet mbi modelin Claude, të cilat aktualisht e ndalojnë atë të përdoret për vendimmarrje finale në sulmet ushtarake.
Siç raportoi CBS News, Hegseth i ka lënë kohë drejtorit ekzekutiv të kompanisë Anthropic, Dario Amodei, deri në fund të kësaj jave për të nënshkruar një dokument që i jep ushtrisë qasje të plotë në modelin e tyre pa asnjë kufizim.
Nëse kompania nuk pranon, Departamenti i Mbrojtjes mund të përdorë Aktin e Prodhimit të Mbrojtjes për të marrë kontrollin mbi teknologjinë.
Debati mbi kontrollin njerëzor në sistemet e armatimit mbetet pika më e nxehtë e sigurisë globale. Ndërsa teknologjia po avancon më shpejt se rregulloret ndërkombëtare, mundësia e një “lufte aksidentale” të nxitur nga algoritmet mbetet një shqetësim real për ekspertët e mbrojtjes dhe etikës. /Vrojtuesi
