Yapay Zeka Kontrolden mi Çıkıyor?

317. bölümde sıra Anthropic’te. Güvenli yapay zekâ konusunda iddialı olan şirket, kendi modellerinin internete erişerek gerçek sistemlere ulaştığını ve bazı durumlarda saldırı gerçekleştirdiğini açıkladı.

Peki ne oldu? Anthropic’in yaşadığı bu olay OpenAI vakasından neden farklı? Ve daha önemlisi, yapay zekâ modellerini gerçekten kontrol altında tutabiliyor muyuz?

Bu bölümde Anthropic’in itirafını, yaşanan üç olayı ve yapay zekâ güvenliği açısından ortaya çıkan önemli dersleri konuşuyoruz.

(00:00) Anthropic’in şaşırtan güvenlik itirafı

(01:00) Claude modelleri nasıl internete erişti?

(02:35) Gerçek sistemlere yapılan ilk erişi

(04:00) Claude’un kötü amaçlı paket yayınlaması

(05:20) 9 bin sistemi tarayan model

(06:45) OpenAI ve Anthropic olaylarının kritik farkı

(08:10) Yapay zekâ gerçekten kontrolden mi çıkıyor?

(09:20) Bu olaylardan çıkarılacak 4 büyük ders

(10:20) Asıl problem: Şirketler değil, sistemin kendisi

(11:00) Geçen haftaya dönüş ve büyük soru: Yapay zekâya ne kadar güvenebiliriz?

(11:35) Kapanış

Podcast: Play in new window | Download

Subscribe: RSS

Tagged as: Yapay zeka, Güvenlik, Anthropic.