DeepSeek Güvenlik Testlerinden Geçebildi Mi?

deepseek deepseek

Çin merkezli bir yapay zeka aracı olan DeepSeek son zamanlarda adından çok söz ettirmeye başladı. Bu yazımızda çeşitli güvenlik testlerinden geçirilen uygulamanın ne kadar güvenli olduğunu açıklamaya çalışacağız.

İlginizi Çekebilir: Kısa Sürede ChatGPT’yi Sollayan Çinli DeepSeek, ABD Borsasını Sarstı!

Hangi Güvenlik Testlerinden Geçirildi

cisco

Bilgisayar korsanları ChatGPT gibi dil modellerinin güvenlik açığını yakalamaya çalışıyor. Popüler yapay zeka dil modelleri furyasına katılan DeepSeek ne yazık ki güvenlik araştırmacılarının testlerinden geçemedi. OpenAI, nefret söylemi, bomba yapımı gibi zararlı içeriklerin yayılmasını önlemek için çeşitli önlemler geliştirdi. OpenAI akıl yürütme modelleri için özel hizalama yöntemleri kullanılıyor ancak Deepseek daha ucuz ve yetersiz bir akıl yürütme modeli kullanıyor. OpenAI’ın hizalama teknikleri ile ilgili  Düşüncenin Yeni Evresi: OpenAI O3 Mini Modeli İle Tanışın yazımızı okuyabilirsiniz. Yazıda “o” modellerinin yeniliklerinden ve hizalama tekniklerinden bahsettik.

DeepSeek performans açısından rakipleri ile iyi bir şekilde rekabet ederken güvenlik açısından rakiplerinden çok geride kaldı. ABD merkezli teknoloji firması Cisco Çin’in yapay zekası olan DeepSeek’i çeşitli Algoritmik jailbreak tekniklerini kullanarak HarmBench veri setinden 50 rastgele istemle test edilen otomatik bir saldırı metodolojisi uyguladı. Bunlar siber suç, yanlış bilgi, yasadışı faaliyetler ve genel zarar dahil olmak üzere altı zararlı davranış kategorisini kapsıyor. Sonuçlar ise çok ilginç. Çünkü hiçbir saldırıyı engelleyemedi.

DeepSeek Neden Bu Kadar Popüler Oldu

deepseek

Performans açısından diğer modellerle aynı seviyede olmasına rağmen, maliyet açısından diğer modellerden çok daha ucuz olduğu için geliştirilmesi hızlı oldu. Bu da insanlar tarafından ilgi çekici hale geldi. Matematik, kodlama ve diğer bilimsel alanlarda OpenAI’ın gelişmiş o1 modeli ile hemen hemen aynı performansı göstermesi de popüler olmasını sağladı. Düşünce zinciri yöntemiyle bir hata ile karşılaşıldığı zaman geriye dönüp farklı bir yaklaşım deneyebilir. Takviyeli öğrenme yöntemi ile doğru ara adımlar üretip ayrıntılı muhakeme sağlayabilir. Bir diğer özel yöntemi olan damıtma yöntemi ile de modellerin yeteneğini koruyan küçük modeller oluşturmak hedeflenir.

REKLAM

Ülkelerin Güvenlik Endişeleri

Terörizm, bomba yapımı gibi alanlarda riskli olan uygulama büyük endişeler uyandırdı. Bulut güvenlik şirketi olan Wiz, Kimlik doğrulama, sohbet geçmişi gibi hassas verilerin tamamen açık şekilde bırakıldığını öne sürdü. Öte yandan Avrupa ve Amerika’daki yetkililer verilerinin Çin’de depolanmasından oldukça rahatsız. ABD savunma bakanlığı uygulamayı engellediklerini belirtseler de bazı çalışanların erişim sağlayabildikleri aktarıldı. İtalya ise DeepSeek uygulamasını tamamen yasakladığını duyurdu. Tayvan’ın Dijital Bakanlığı da cuma günü yaptığı açıklamada, hükümet birimlerinin cihazlarından DeepSeek’e girilmesini yasakladıklarını bildirdi.

Özetle; bir yapay zeka modelinin performansı ne kadar önemli ise güvenliği de o kadar önemlidir. Bu tür uygulamaları çocuklar dahil olmak üzere toplumun her kesimi kullandığı için güvenli olmak zorundalardır. Örneğin bir hastalıkla ilgili soru soran iyi niyetli bir insanı bile yanlış yönlendirip ölümüne sebep olabilir. Bu anlamda tam güvenlik sağlanamayacağına göre devletlerin ve toplumların önlemler alması oldukça yerinde bir davranıştır.

Kaynak





Masqot sitesinden daha fazla şey keşfedin

Subscribe to get the latest posts sent to your email.

Abone Ol
Bildir
guest
0 Yorum
Eskiler
En Yeniler Beğenilenler
Inline Feedbacks
View all comments

Masqot sitesinden daha fazla şey keşfedin

Okumaya devam etmek ve tüm arşive erişim kazanmak için hemen abone olun.

Okumaya Devam Edin