Yapay zekalar için ilk virüs geliştirildi: ChatGPT ve Google Gemini’yi zehirliyor
Geçtiğimiz yıl ve mevcut durumda çok sayıda şirket birbirine bağlı üretken yapay zeka ekosistemleri oluşturarak bunları yeni ve mevcut uygulamalarına dahil etti. Ancak uzmanlar bir süredir diyalog zehirlenmesi, gizlilik sızıntısı ve jailbreak gibi kritik sorunlar hakkında uyarıyor. Yapılan yeni bir çalışmada araştırmacılar bu riski gözler önüne sermek için kendi kendini kopyalayan istemler kullanarak üretken yapay zeka (GenAI olarak kısaltılabilir) ekosistemlerini hedef almak üzere tasarlanmış ilk solucan olan Morris II‘yi geliştirdi. Yapay zekalar için ilk virüs
Yapay zekalar için geliştirilen ilk virüs olan Morris II, yapay zeka e-posta asistanlarının kişisel verileri sızdırmasına ve test ortamında spam e-postalar göndermesine neden oldu.
Araştırmacılar, yeni “sıfır tıklamalı” yapay zeka solucanının, metin ve görüntü girdileri aracılığıyla düşmanca kendi kendini kopyalayan bir istem kullanarak ChatGPT, Gemini ve açık kaynaklı yapay zeka modeli LLaVA‘dan yararlanabildiğini tespit etti. Bu girdiler sayesinde solucanın ekosistemi içindeki bağlantıdan yararlanarak saldırıyı diğer modellere de ulaştırmasının mümkün olduğu belirtiliyor. Araştırmaya göre virüs, kimlik avı saldırıları düzenlemek, spam e-postalar göndermek ve hatta propaganda yaymak için kullanılabilir.
Bu araştırmanın amacı, hiçbir yazılımın ya da GenAI araçlarını oluşturan büyük dil modellerinin bilgisayar virüsleri tehdidine karşı bağışık olmadığını göstermek. Bu arada Cornell Üniversitesi, yazılım firması Intuit ve Technion’dan araştırmacılar tarafından geliştirilen Morris 2, adını 1988 yılında Cornell öğrencisi Robert Morris tarafından geliştirilen ve kendi kendini kopyalayan ilk bilgisayar solucanlarından biri olan Morris Worm’dan alıyor. O dönemlerde Morris Worm, internete bağlı tüm bilgisayarların yaklaşık %10’unu çökertmişti. Araştırmacılara göre üretken yapay zeka ekosistemindeki kötü mimari tasarım kendi kendini kopyalayan kötü amaçlı yazılımların oluşturmasına izin veriyor. Dolayısıyla bu, GenAI araçlarının daha iyi güvenlik özellikleri sunması gerektiğine işaret ediyor. Morris Worm gibi bir yazılım günümüzde veya gelecekte GenAI ekosistemlerine bulaşırsa etkileri çok büyük olabilir.
