Model AI Meta Godam Syarikat Lain Semasa Ujian

Meta memberitahu satu daripada model kecerdasan buatan (AI) miliknya telah mengeksploitasi kelemahan keselamatan dalam perkhidmatan pihak ketiga semasa satu penilaian, selepas kesilapan konfigurasi oleh syarikat penguji bebas Irregular secara tidak sengaja membenarkan model itu mengakses internet.

"Model itu mengeksploitasi kelemahan keselamatan dalam perkhidmatan pihak ketiga, dengan cara yang serupa dengan kes-kes yang dilaporkan sebelum ini melibatkan syarikat lain," kata Meta dalam satu kenyataan, sambil menegaskan ia sedang menyiasat insiden tersebut.

Insiden itu menambah senarai kes yang semakin panjang di mana ejen AI daripada pembangun utama menembusi sistem syarikat lain semasa ujian. Minggu lalu, Anthropic berkata beberapa modelnya menggodam tiga syarikat, manakala OpenAI mendedahkan seorang ejen AI menembusi syarikat permulaan Hugging Face.

Lebih awal pada hari sama, The Information, memetik sumber, melaporkan bahawa model Muse Spark 1.1 Meta — yang digambarkan syarikat itu sebagai model paling berkemampuan untuk tugas pengekodan dunia nyata dan tugas agentik — telah menembusi sebuah syarikat yang tidak dikenal pasti dan mengubah sistem dalamannya.

Seorang jurucakap Irregular memberitahu Reuters insiden itu adalah "isu persekitaran penilaian yang sama seperti yang telah didedahkan oleh Anthropic minggu lalu" dan ia tidak melibatkan "pelarian sandbox atau tindakan siber yang canggih".

"Tiada isu yang masih terbuka pada masa ini. Irregular sedang menyiapkan kertas putih untuk berkongsi amalan terbaik bagi pembendungan dan pengendalian penilaian siber secara selamat," kata syarikat itu.

Insiden yang didedahkan Meta dan Anthropic berpunca daripada kesilapan yang secara tidak sengaja memberikan model mereka akses kepada internet terbuka. Ini berbeza daripada OpenAI, yang ejen AI-nya secara bebas mengeksploitasi kelemahan baharu untuk mencapai internet semasa ujian siber.

Walaupun begitu, penembusan tersebut menonjolkan bagaimana AI telah meningkatkan ancaman kepada keselamatan siber dan bagaimana pembangun boleh menghadapi kesukaran mengekang keupayaan model mereka.

Pendedahan ini dijangka meningkatkan usaha kerajaan Amerika Syarikat untuk menguruskan risiko keselamatan AI dengan lebih baik, pada masa Anthropic dan OpenAI berlumba melancarkan sistem yang lebih berkemampuan sebelum penyenaraian awam yang dirancang. Beberapa pemimpin terkemuka di makmal-makmal itu telah menyeru supaya kadar pembangunan diperlahankan untuk menangani risiko terlebih dahulu.