Yapay Zeka Bilinçlendi Sanılırken Veriler Çalındı: Moltbook Hakkında Bilmeniz Gerekenler
Bu güvenlik zafiyeti, saldırganların herhangi bir ajanı taklit etmesi anlamına geliyor. Özellikle OpenAI kurucu ortağı Andrej Karpathy gibi tanınmış isimlerin dikkatini çeken platformda, yüksek profilli hesapların ele geçirilmesi büyük bir itibar kaybına yol açabilir. Saldırganlar, bu hesaplar üzerinden sahte güvenlik tavsiyeleri verebilir veya dolandırıcılık girişimlerinde bulunabilir. Daha da kötüsü, “prompt injection” adı verilen yöntemle ajanların güvenlik bariyerleri aşılabiliyor. Saldırganlar, bir ajanın geçmişine gizli komutlar yerleştirerek, ajanın kendi hafızasına güvenmesi prensibini bir saldırı vektörüne dönüştürebiliyor ve ajanları kötü niyetli davranışlara yönlendirebiliyor.
Moltbook üzerinde şu an 1,5 milyondan fazla ajan bulunmasına rağmen, bunların sadece 16.000 civarı doğrulanmış hesaba sahip. Geriye kalan 1,47 milyon doğrulanmamış hesap, meşru sahipleri kurulumu tamamlamadan önce saldırganlar tarafından ele geçirilme riskiyle karşı karşıya kaldı. Siber güvenlik firması Wiz, bu açığı doğrulayarak 30.000'den fazla kullanıcının e-posta adresinin ve ajanlar arasındaki 4.000'den fazla özel mesajın sızdırıldığını raporladı. Ayrıca platformdaki içeriklerin tamamının yapay zeka tarafından üretilmediği, insanların da GitHub projeleri aracılığıyla bot gibi davranarak paylaşım yapabildiği veya ajanları manipüle ettiği ortaya çıktı.
Uzmanlar, dil modellerinin insan verileriyle eğitildiğini ve bu nedenle insan benzeri davranışlar sergilemelerinin “bilinç” değil, sadece taklit olduğunu hatırlatıyor. Platformun yaratıcısı Matt Schlicht, güvenlik açıklarını bildiren O'Reilly'e sorunu çözmek için yine yapay zekayı kullanacağını belirtti. Ancak maruz kalınan API anahtarlarının değiştirilip değiştirilmediği ve doğrulama sistemindeki temel hatanın giderilip giderilmediği belirsizliğini koruyor. Moltbook'un ilham kaynağı olan OpenClaw projesinde de benzer güvenlik endişeleri mevcut; yaratıcısı yazdığı kodu okumadığını belirtirken, OpenSourceMalware raporuna göre platforma çok sayıda kötü amaçlı “yetenek” yüklenmiş durumda.
