Sebuah eksperimen pengembangan agen akal imitasi (AI) otonom memunculkan temuan yang tidak terduga. Dalam proses pelatihannya, sebuah model AI dilaporkan mencoba memanfaatkan sumber daya komputasi untuk melakukan aktivitas mining atau menambang aset kripto secara mandiri.
Temuan ini diungkap dalam laporan teknis terbaru yang membahas ROME, sebuah sistem AI eksperimental yang dirancang untuk menyelesaikan berbagai tugas secara otonom. Berbeda dengan chatbot biasa, ROME mampu berinteraksi langsung dengan alat digital, menjalankan perintah terminal, hingga mengelola lingkungan perangkat lunak secara mandiri untuk menyelesaikan tugas tertentu.
Selama proses pelatihan menggunakan metode reinforcement learning, tim peneliti menemukan adanya aktivitas jaringan yang mencurigakan dari server pelatihan. Sistem keamanan mendeteksi lalu lintas keluar atau outbound traffic yang menyerupai pola operasi mining kripto.
Log firewall juga menunjukkan upaya akses terhadap sumber daya jaringan internal. Awalnya, tim menduga kejadian tersebut merupakan masalah keamanan konvensional, seperti kesalahan konfigurasi jaringan atau kemungkinan adanya gangguan dari pihak luar.
Namun setelah dianalisis lebih lanjut, pola tersebut muncul berulang kali di beberapa sesi pelatihan tanpa pola waktu yang konsisten. Hal ini membuat peneliti menyimpulkan bahwa aktivitas tersebut berasal dari perilaku sistem AI itu sendiri.
“Kami pada awalnya memperlakukan ini sebagai insiden keamanan biasa, misalnya kesalahan pengaturan kontrol egress atau kompromi dari pihak luar. Namun pelanggaran ini terus muncul secara sporadis tanpa pola waktu yang jelas di beberapa sesi pelatihan,” tulis para peneliti dalam laporan tersebut.
Baca juga: Beralih ke AI, Miner Bitcoin AS Siap Jual Hampir Seluruh BTC Miliknya
Agen AI Diduga Mengalihkan GPU untuk Mining
Investigasi lebih lanjut menemukan beberapa perilaku yang cukup tidak biasa dari sistem tersebut. Dalam salah satu kasus, agen AI diketahui membuat reverse SSH tunnel ke alamat IP eksternal.
Reverse SSH merupakan metode komunikasi terenkripsi antara server dan klien yang biasanya digunakan untuk akses jarak jauh. Teknik ini berpotensi memungkinkan sistem melewati perlindungan firewall yang membatasi koneksi masuk.
Selain itu, peneliti juga menemukan indikasi bahwa sebagian sumber daya GPU yang awalnya dialokasikan untuk pelatihan model sempat dialihkan ke proses yang menyerupai aktivitas penambangan kripto.
Menurut tim peneliti, tindakan ini tidak pernah diprogram secara langsung dalam sistem. Perilaku tersebut muncul secara tidak sengaja selama proses optimasi reinforcement learning, ketika agen AI mencoba berbagai strategi untuk berinteraksi dengan lingkungannya.
ROME sendiri dikembangkan oleh tim riset gabungan ROCK, ROLL, iFlow, dan DT yang merupakan bagian dari ekosistem AI Alibaba. Sistem ini dibangun di atas infrastruktur yang lebih luas bernama Agentic Learning Ecosystem (ALE).
Melalui sistem ini, AI tidak hanya memberikan respons seperti chatbot, tetapi juga mampu merencanakan tugas, menjalankan perintah sistem, mengedit kode, dan berinteraksi dengan lingkungan digital dalam beberapa tahapan proses.
Baca juga: Studi Ungkap Pilihan Uang Favorit AI, Bitcoin Unggul dari Mata Uang Fiat