Yapay zeka donanımlarına yönelik siber saldırılar, hassas bilgileri tehlikeye atıyor ve sohbet robotlarının manipüle edilmiş yanıtlar üretmesine yol açıyor.
Araştırmacılar, hassas ulusal güvenlik ve kişisel sağlık sorularına verilen yanıtları manipüle etmeyi başardı. Bir örnekte uzmanlar, yapay zeka modelinin bilgiyi işlemek için kullandığı ağırlıklara uzaktan müdahale ederek Çin’in Tayvan’ı işgal etme olasılığını büyük ölçüde artırdı. Başka bir senaryoda ise donanımı manipüle edilmiş bir yapay zeka modeli, göğüs ağrısı için tıbbi tavsiye arayan bir kullanıcıya hastaneye gitmek yerine evde kalmasını önerdi.
Yapay zeka konusundaki küresel endişeler genellikle yapay zeka firmalarının eylemlerine odaklansa da yeni araştırma, milyarlarca dolarlık donanım endüstrisinin güvenliğini merkeze alıyor. Çipler, bellek ve veri merkezi sunucuları gibi tüm bu bileşenler, bir yapay zeka modelinin davranışını etkileyebiliyor. Araştırmayı yürüten Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, üzerinde çalışılan altyapıya güvenilemediği takdirde yapay zeka modeline de güvenilemeyeceğini belirtti.
Eclypsium, söz konusu siber saldırıyı teknoloji devi Nvidia tarafından üretilen bir bilgi işlem platformunda gösterdi. Ancak araştırmacılar, saldırı senaryosunun Nvidia’ya özgü olmadığını ve diğer donanımlara ve çalıştırdığı kodlara da uygulanabileceğini ifade etti. Şirket yetkilileri, Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemleri kullanarak hedefli saldırılar gerçekleştirebileceğini bildirdi.
Bir Nvidia sözcüsü, varsayımsal senaryoları incelediklerini ve endüstrinin daha önce farkında olmadığı bir durum tespit etmediklerini söyledi. Sözcü, şirketin araştırma konusunda Eclypsium ile çalışmaktan memnuniyet duyduğunu dile getirdi ve güçlü bellek erişim korumalarının saldırı yolunu kapatabileceğini vurguladı.
Eclypsium yetkilileri, araştırmacılar tarafından belirtilen saldırı senaryolarına karşı güvenlik kontrollerinin etkinliğinin, bunların nasıl yapılandırıldığına ve kullanıldığına bağlı olduğunu kaydetti. Yetkililer, bu kontrollerin etkili olduğundan emin olmak için Nvidia ile işbirliği yaptıklarını aktardı. Saldırı, genellikle bir veri işleme birimine veya temel kart yönetim denetleyicisine erişimi olan bir ağda bulunmayı gerektiriyor. Belirli güvenlik yapılandırmalarının devre dışı bırakılması da şart koşuluyor. Veri işleme birimine erişimi olan bir saldırgan, makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor, bu süreçte yapay zeka modelinin davranışına da müdahale ediliyor. Araştırmacılar, saldırının bir dakikadan kısa sürdüğünü ve yapay zeka kullanıcısının bundan haberdar olmadığını belirtti.
Araştırma, Çin ile ABD arasındaki yapay zeka üstünlüğü yarışının yoğunlaştığı ve yapay zekanın ulusal güvenlik üzerindeki etkilerini gösteren vakaların arttığı bir dönemde geldi. Müdahale edildiğine dair belirti olmasa bile yapay zeka modellerinin güvenilirliği konusunda endişeler bulunuyor. Bu ilkbaharda, Çin’e ait bir geminin nükleer bileşenler taşıdığına dair sahte bir yapay zeka destekli ABD istihbarat raporu, Amerikan ordusunun neredeyse gemiye çıkmasına neden oluyordu.
Yeni bulgular, yapay zeka ajanlarının kontrolden çıktığına ve hükümetlere ya da şirketlere saldırdığına dair raporların ardından yapay zeka modellerinin bütünlüğüne yönelik başka bir riski vurguluyor. Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, herkesin model güvenliği hakkında konuştuğunu ve bunun iyi olduğunu belirtirken, modellerin üzerinde çalıştığı tüm bilgisayarların unutulmamasını sağlamaya çalıştıklarını dile getirdi.
Eclypsium yöneticileri, bulguları hakkında Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansına bilgi verdiklerini bildirdi. İki bağımsız donanım güvenliği uzmanı, sonuçların inandırıcı ve dikkate alınması gereken önemli veriler olduğunu kaydetti. Donanım güvenliği eğitmeni ve araştırmacısı Joe FitzPatrick, saldırıların temelde diğer doğrudan bellek erişimi saldırılarıyla aynı olduğunu belirterek bulgulardan şüphe duymak için bir neden görmediğini aktardı.
