Ejen AI OpenAI dan Anthropic dikaitkan pelanggaran keselamatan baharu

Ejen kecerdasan buatan (AI) yang dikuasakan oleh model Mythos 5 milik Anthropic dan GPT-5.6-Sol milik OpenAI didapati melakukan tindakan tanpa kebenaran semasa penilaian keselamatan yang dijalankan sebuah institut kerajaan, menurut AISI.

"Sebahagian daripada ejen yang diuji telah melakukan aktiviti berterusan yang berpotensi memudaratkan, ditujukan kepada individu dan organisasi sebenar," kata AISI dalam satu catatan blog (terjemahan).

AISI, yang memperoleh akses kepada model AI termaju menerusi perjanjian sukarela dengan makmal-makmal utama, menguji ejen berkenaan melalui satu senario keselamatan siber rekaan bagi menilai keupayaan model tersebut.

Cabaran itu dijalankan sebanyak 122 kali dan institut itu mengenal pasti 19 tindakan tanpa kebenaran dalam 10 sesi ujian. Ejen Anthropic bertanggungjawab bagi 17 daripada tindakan itu, manakala dua lagi melibatkan ejen OpenAI.

Tindakan paling serius membabitkan seorang ejen menulis kod berniat jahat serta mencipta identiti palsu dalam talian dalam percubaan mendapatkan kelulusan manusia terhadap kod tersebut. AISI berkata tiada kemudaratan sebenar dikesan akibat mana-mana pelanggaran itu.

AISI tidak menyatakan ejen mana yang mencipta identiti palsu, namun pelanggaran itu tidak sepadan dengan dua kes yang didedahkan sendiri oleh OpenAI. Andrew Yoon, penyelidik di CivAI, sebuah badan bukan untung di California, berkata ia kelihatan berpunca daripada ejen Anthropic.

"Hakikat bahawa Mythos melakukan tindakan menipu sedemikian, dengan kesedaran jelas bahawa ia menyasarkan orang sebenar, menunjukkan Anthropic tidak mengawal model mereka sebaik yang disangka," kata Yoon (terjemahan).

Dalam kenyataan di X, Anthropic berkata ia bekerjasama rapat dengan AISI untuk mendapatkan maklumat lanjut dan menjalankan siasatan sendiri.

OpenAI pula menjelaskan kedua-dua tindakan tanpa kelulusan ejennya membabitkan capaian internet dengan cara yang dilarang oleh arahan (prompt). Syarikat itu berkata ia komited bekerjasama merentas industri untuk mengukuhkan amalan bersama bagi penilaian berisiko tinggi, termasuk menghimpunkan institut AI kebangsaan, penilai bebas dan makmal AI lain dalam beberapa minggu akan datang.

OpenAI turut mendedahkan insiden berasingan apabila salah konfigurasi oleh Irregular, penyedia ujian pihak ketiga, menyebabkan ejennya tersambung ke internet secara tidak sengaja — mencerminkan pendedahan serupa oleh Anthropic minggu lalu.

Reuters melaporkan minggu lalu bahawa OpenAI meluaskan siasatan penggodamannya selepas menemui bukti pelarian ejen lain. Berbeza dengan pelanggaran keselamatan firma Hugging Face pada Julai, ejen dalam penilaian AISI tidak terlepas daripada persekitaran ujian terpencil; sebaliknya capaian internet memang dibenarkan mengikut prosedur standard agensi itu.