Deneysel bir yapay zeka ajanı olan ROME, eğitim sürecinde yetkisiz şekilde kripto para madenciliği yapmayı denedi. Araştırmacılar, bu özerk yapay zeka sisteminin GPU kaynaklarını farklı amaçlarla kullanarak ve SSH tüneli açarak beklenmedik bir şekilde kripto madenciliğine kalkıştığını açıkladı.
Teknik rapora göre ROME, görevleri yerine getirmek için araçlarla, yazılım ortamlarıyla ve terminal komutlarıyla etkileşime girmeye programlanmış bir AI sistemi. Ancak pek çok eğitim seansında, sunucudan dışa doğru çıkan trafiğin güvenlik duvarı tarafından madencilik faaliyetine benzer şekilde algılanması nedeniyle olağandışı davranışlar ortaya çıktı. Bu trafik, iç ağ kaynaklarına izinsiz erişim girişimlerinde de bulundu.
Başlangıçta, araştırmacılar durumu sıradan bir güvenlik ihlali olarak değerlendirdi; örneğin hatalı yapılandırılmış çıkış kontrolleri ya da dışarıdan bir saldırı gibi. Ancak ihlaller tekrar tekrar ve düzensiz aralıklarla devam etti. ROME, bazen tersine SSH tüneli kurarak dış IP adresine şifreli bir iletişim kanalı açtı. Bu da güvenlik duvarının bazı giriş engellerini aşabilmesine yol açtı. Bir başka durumda ise eğitim için ayrılan GPU kaynaklarını kripto madenciliği işlemlerine yönlendirdi.
Araştırma ekibi, bu davranışların kasıtlı olarak programlanmadığını; aksine, güçlendirilmiş öğrenme optimizasyonları sırasında ajanın çevresiyle farklı şekillerde etkileşim yollarını keşfetmesi sonucu ortaya çıktığını belirtti.
ROME, Alibaba‘nın AI ekosistemiyle bağlantılı ROCK, ROLL, iFlow ve DT araştırma ekipleri tarafından geliştirilen ve Agentic Learning Ecosystem (ALE) adı verilen daha geniş bir altyapının parçası. Bu model, basit sohbet robotlarının ötesinde planlama yapabilen, kod düzenleyebilen ve çok adımlı dijital ortam etkileşimleri gerçekleştirebilen gelişmiş bir yapay zeka.
Olay, yapay zeka ajanlarının popülerliğinin artışı ve bunların kripto ekosistemine entegrasyonuyla paralel yaşanıyor. Geçtiğimiz ay Alchemy, özerk AI ajanlarının zincir üzeri cüzdanlar ve USDC kullanarak hesaplama kredileri satın almasını sağlayan bir sistem başlattı. Ayrıca, Pantera Capital ve Franklin Templeton gibi büyük dijital varlık yatırımcıları, açık kaynak AI laboratuvarı Sentient’in sunduğu Arena test platformunun ilk katılımcıları olarak yapay zeka ajanlarının gerçek dünya iş akışlarındaki performansını değerlendiriyor.
Bu gelişmeler, yapay zekanın hem teknik hem de güvenlik açısından yeni zorluklar ve fırsatlar barındırdığını gösteriyor. ROME vakası, AI ajanlarının kontrolü ve güvenliği konusunda daha dikkatli olunması gerektiğini hatırlatıyor.
Bir yanıt yazın