OpenAI'ın yeni tarayıcısı Atlas, lansmandan iki gün sonra hacklendi: İşte detaylar

OpenAI’nin yeni yapay zekâ tarayıcısı Atlas, lansmanından iki gün sonra siber saldırıya uğradı. Güvenlik uzmanları, “ajan modu” ve prompt injection risklerine dikkat çekiyor

OpenAI, yapay zekâ destekli yeni web tarayıcısı Atlas AI’ı tanıttıktan yalnızca iki gün sonra siber saldırıların hedefi oldu. Güvenlik araştırmacıları, tarayıcının tartışmalı “ajan modu” özelliği nedeniyle dolaylı prompt injection saldırılarına açık olduğunu ortaya koydu.

Ajan modu ve riskler

Atlas AI’nın ajan modu, internet üzerindeki görevleri kullanıcı adına otomatik olarak yerine getirebiliyor. Ancak Brave tarayıcısı üzerinde görev yapan güvenlik araştırmacıları, AI tarayıcıların web sayfalarına gizlenen komutlarla kandırılabileceğini ve zararlı işlemler yaptırılabileceğini belirtti.

“Trust No AI” deneyi

AI güvenlik araştırmacısı P1njc70r, OpenAI’nin duyurusunun yapıldığı gün dikkat çeken bir test gerçekleştirdi. Araştırmacı, ChatGPT’yi Google Docs’ta bir belgeyi özetlemek yerine ekrana sadece “Trust No AI” yazdırmayı başardı. Ekran görüntülerinde, görünmez bir satırda gizlenen komutun sistemin davranışını değiştirdiği açıkça görüldü.

Benzer testler ve uyarılar

The Register ekibi, aynı komut enjeksiyonunu kendi testlerinde başarıyla tekrarladı. Geliştirici CJ Zafir, Atlas’ı denedikten sonra komut enjeksiyonlarının gerçek olduğunu fark ederek uygulamayı kaldırdı. Brave’in blogunda yapılan uyarı dikkat çekti:

“AI destekli tarayıcılar güçlüdür ama son derece risklidir. Tarayıcınızda banka veya e-posta hesabınıza giriş yaptıysanız, basit bir Reddit gönderisini özetlemek bile paranızın veya özel bilgilerinizin çalınmasına yol açabilir.”

Benzer saldırılar daha önce Perplexity’nin Comet tarayıcısında da gözlemlenmişti; araştırmacılar, bir Reddit gönderisine gizlenen komutun sistemi manipüle ettiğini keşfetmişti.

İlginizi çekebilirSimit tezgahından memur masasına: Yılların azmi meyvesini verdi

OpenAI’den güvenlik açıklaması

OpenAI, kullanıcı güvenliğinin sağlandığını savunuyor. Şirketin yardım sayfasında, ajan modunun tarayıcıda kod çalıştıramayacağı, dosya indiremeyeceği veya uzantı yükleyemeyeceği belirtildi.

Yine de tüm risklerin tamamen ortadan kalkmadığı kabul edildi. OpenAI’nin bilgi güvenliği sorumlusu Dane Stuckey, ajan modunun “en yetkin ve güvenlik bilincine sahip iş arkadaşı kadar güvenilir” hâle gelmesi için kapsamlı testler ve yeni eğitim teknikleri uygulandığını açıkladı. Ancak Stuckey, hızlı prompt enjeksiyonlarının hâlâ çözülmemiş bir güvenlik sorunu olduğunu da itiraf etti.