Güvenilir Yapay Zeka Şirketlerini Nasıl Tanırız?

Gün geçtikçe daha yaratıcı alanlar üretmeye çalışan yapay zeka şirketleri, güvenlik konularında da yeterince başarılı mı?

Birçok önemli yapay zeka şirketi, dur durak bilmeyen gelişimleriyle bizi şaşırtmaya devam ediyor. Ancak bu şirketler daha güçlü inovasyonlar inşa etmek için çalışırken, güvenlik önlemleri arka planda kalabiliyor. 5 Aralık’ta yapay zeka güvenliği üzerine kar amacı gütmeyen Apollo Research tarafından yayımlanan bir makalede, yapay zekanın belirli uydurma senaryolarda, hedefine ulaşabilmek için aldatıcı davranışlar gösterebileceğini ve bugüne kadar büyük ölçüde teorik olan bir endişeyi somutlaştıracak nitelikte bir kanıt bulduğunu belirtti. Şirketlerin bu konu üzerinde ise herhangi bir tepki göstermemesi ve yorum yapmaktan kaçınması, bu iddiayı daha da gerçekçi kılma konusunda yardımcı oluyor.

İlginizi çekebilir : Yapay Zekâ Chatbotları Güvenli mi? Genç Bir Kullanıcının Trajik Hikayesi

Yapay Zeka Şirketlerindeki Şeffaflık ve Etik Sorunları

Birçok yapay zeka şirketi, algoritmalarını ve kullandıkları veri setlerini ticari sır bahanesiyle paylaşmaktan kaçınıyor. Bu durum, özellikle sağlık gibi hassas sektörlerde ciddi endişelere yol açabiliyor. Algoritmanın şeffaf olmaması, ayrımcılık ve önyargı risklerini de artırmaya müsait bir ortam oluşturuyor. Bunun gibi birçok sebepten dolayı bütün yapay zeka şirketlerinin şeffaf, etik ve sorumlu davranışlar göstererek güvenlik konusunda özenli biçimde hareket etmeleri bekleniyor.

Peki, En Güvenilir Yapay Zeka Şirketi Hangisi?

Büyük yapay zeka şirketlerinden Google ve OpenAI, 11 Aralık Çarşamba günü yayımlanan bir raporda potansiyel zararlarla nasıl başa çıkacaklarına dair değerlendirmeler yapmaya başladıklarını açıkladı. Bu rapor, Future of Life Institute tarafından yayımlandı ve şirketler altı temel alanda değerlendirildi.

Yapay zeka geliştirmeye yönelik “sorumlu” adımlar atması ile bilinen Facebook ana şirketinin geliştiricisi olan Meta, genel olarak F notu olarak en düşük notu alan şirket oldu. Elon Musk’ın yapay zeka şirketi olan X.Al ise Meta’yı takip ederek D notu aldı ve bu her iki şirkette yorum talebine geri dönüş sağlamadı.

Gençler arasında oldukça popüler olan ChatGPT’nin geliştiricisi OpenAI ve Google DeepMind şirketleri ise D+ alarak veri güvenliği konusunda beklentilerin altında kaldı. Popüler sohbet robotu Claude’un arkasındaki yapay zeka şirketi Anthropic ise C notu alarak güvenlik konusundaki görece başarısını kanıtladı.

Kaynak : Which AI Companies Are the Safest—and Least Safe?