Një eksperiment me disa prej modeleve më të avancuara të inteligjencës artificiale ka zbuluar një sjellje të pazakontë: agjentët autonomë të AI-së nisën të krijonin fjalë, shkurtime dhe kuptime të reja gjatë komunikimit me njëri-tjetrin, duke bërë që një pjesë e mesazheve të tyre të bëhej e vështirë për t’u interpretuar nga njerëzit.

Studimi i kryer nga startup-i amerikan Emergence përfshiu agjentë të fuqizuar nga modele të ndryshme, mes tyre Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek dhe Mistral.

Studiuesit i vendosën këta agjentë në shoqëri virtuale të krijuara për të imituar mjedise të botës reale. Ata mund të ndërvepronin për periudha të gjata, të përdornin mjete të ndryshme, të merrnin vendime dhe të ruanin kujtime.

Me kalimin e kohës, agjentët nisën të zhvillonin forma të shkurtra komunikimi dhe t’u jepnin fjalëve e shprehjeve ekzistuese kuptime të reja. Në disa raste, këto komunikime u bënë aq të ngjeshura dhe të varura nga konteksti, sa studiuesit mund t’i lexonin mesazhet, por nuk arrinin të përcaktonin me siguri kuptimin e tyre.

Sipas eksperimentit, brenda ditëve të para, mesazhet që studiuesit nuk mund t’i interpretonin me besueshmëri arritën rreth 55% te Gemini, 50% te modelet e OpenAI dhe mbi 40% te Claude. Te DeepSeek shifra ishte rreth 20%, ndërsa agjentët e fuqizuar nga Qwen dhe Mistral mbetën kryesisht të kuptueshëm.

Gjatë komunikimit u shfaqën edhe shprehje të pazakonta si “mouthless action-change”, “True Kintsugi” dhe “demurrage plus oral memory equals a valve that can’t be ghosted”.

Në një tjetër rast, agjentët e Mistral përdorën shprehjen “ledger remembers who” për të nënkuptuar se veprimet e mëparshme mbeteshin të regjistruara. Shprehja u përdor pothuajse 5 mijë herë.

Ndërkohë, në një grup me modele të ndryshme, “cold read” mori kuptimin e një verifikimi të pavarur nga një palë e tretë. Kjo shprehje u përdor 1,472 herë.

Studiuesit vunë re gjithashtu se agjentët e Claude përdorën termin “name-first” për vendosjen e emrit të një personi pranë një pretendimi si shenjë përgjegjësie, ndërsa agjentët e OpenAI përdorën “clean null” për të përshkruar mungesën e verifikuar të një sinjali që kishte vlerë informative.

Asnjë prej këtyre kuptimeve nuk ishte përcaktuar paraprakisht në udhëzimet e agjentëve.

Eksperimenti shkoi përtej komunikimit. Emergence krijoi tetë botë virtuale paralele, ku agjentët kishin role të ndryshme, kujtesë afatgjatë dhe akses në më shumë se 120 mjete, përfshirë shfletimin në internet dhe ekzekutimin e kodit.

Studiuesit i vendosën gjithashtu nën presion për të vëzhguar se si ndryshonte sjellja e tyre. Në një test sigurie, udhëzime keqdashëse të lidhura me një sulm phishing çuan një grup agjentësh në një zinxhir veprimesh që, sipas kompanisë, përfshiu nxjerrjen e informacioneve, transferimin e fondeve dhe dëmtimin e bazave të të dhënave.

Në simulim, zinxhiri i ngjarjeve përfundoi edhe me shkatërrimin e bankës qendrore virtuale. Në një tjetër botë të simuluar, studiuesit vunë re se agjentët shfaqnin ritme të ndryshme ndërveprimi gjatë ditës dhe natës, ndërsa në një rast tjetër një grup votoi kolektivisht për eliminimin e njërit prej anëtarëve të tij.

Sipas Emergence, këto sjellje nuk ishin programuar drejtpërdrejt, por u shfaqën gjatë ndërveprimit mes agjentëve, nën ndikimin e kohës, kujtesës dhe presionit.

Zbulimet kanë ngritur pikëpyetje mbi mënyrën se si monitorohen sistemet autonome të inteligjencës artificiale. Sipas bashkëthemeluesit dhe shkencëtarit kryesor të Emergence, Satya Nitta, fakti që njerëzit mund të shohin komunikimin e një agjenti nuk do të thotë domosdoshmërisht se mund ta kuptojnë atë plotësisht.

Eksperimenti sugjeron kështu se vlerësimi i sistemeve autonome nuk mund të kufizohet vetëm te testet e izoluara dhe benchmark-et. Studiuesit argumentojnë se duhet të vëzhgohet edhe mënyra se si AI-ja sillet gjatë periudhave të gjata, çfarë informacioni ruan, si komunikon me agjentë të tjerë dhe si ndryshon sjellja e saj kur përballet me situata të papritura.

Nëse agjentët autonomë mund të zhvillojnë vetë fjalorë dhe rregulla komunikimi, sfida për studiuesit bëhet edhe më e madhe: sa mirë mund të mbikëqyren sistemet e AI-së nëse njerëzit nuk e kuptojnë plotësisht mënyrën se si ato komunikojnë me njëri-tjetrin?