Yapay zeka (AI) gelişimi, eski çağlardan beri insanlık için önemli fırsatlar sunarken, etik ve değerler üzerine kurulu ilkelerin önemini de artırmaktadır. Bu bağlamda, Asilomar AI İlkeleri, yapay zekanın araştırılması ve geliştirilmesini şekillendiren 23 ilkeyi içerir.
Bu ilkeler, yapay zekanın faydalı gelişimini kolaylaştırmak ve aynı zamanda potansiyel riskleri ve etik sorunları ele almak için bir yol haritası sunar. Bu rehberimizde; Asilomar AI nedir ve ilkeleri nelerdir, konusuna değineceğiz.
Asilomar AI Nedir?
Asilomar AI 5-8 Ocak 2017 tarihlerinde Kaliforniya’da düzenlenen, yapay zeka (AI) konusunda 100’den fazla düşünce lideri ve araştırmacıyı bir araya getiren bir konferanstı. Bu konferansta, yapay zekanın insanlık için yararlı olmasını sağlamak amacıyla Asilomar AI İlkesi adında bir dizi kural oluşturuldu.
Asilomar AI İlkelerinin Amacı Nedir?
Asilomar AI ilkeleri yapay zekanın insanlık yararına hizmet etmesini, risklerinin minimize edilmesini ve teknolojinin şeffaf ve hesap verebilir olmasını hedefler. Ayrıca, yapay zeka araştırmalarında uluslararası işbirliğini teşvik eder ve teknolojinin uzun vadeli etkilerini göz önünde bulundurur. Bu çerçeve, yapay zekanın olumlu etkilerini artırırken olası zararlarını sınırlamayı amaçlar.
Asilomar AI İlkelerini Kimler Kabul Etti?
Bugüne kadar Asilomar İlkeleri 1797 yapay zeka/Robotik araştırmacısı ve 3924 kişi tarafından imzalandı. Bu isimler arasında Elon Musk, Sam Altman, OpenAI, Araştırma Direktörü, Kurucu Ortak Ilya Sutskever, DeepMind, Kurucu ve CEO Demis Hassabis gibi yapay zeka alanında ün yapmış şahsiyetler yer alıyor. Ayrıca ilkeleri kabul edenlerin tam listesini görmek için Future of Life Enstitüsünün “Asilomar AI Principles Open Letters” sayfasını ziyaret edebilirsiniz.
Asilomar Yapay Zeka İlkeleri Nelerdir?
Asilomar Yapay Zeka İlkeleri 3 kategoriye ayrılır. Bunlar; Araştırma, Etik ve Değerler ve Uzun Vadeli Sorunlar olarak sıralanabilir. Bu ilkeler yapay zeka geliştiricileri için etik anlamda önemlidir. Yine de -günümüzde de olduğu gibi- kimse bu ilkelere uymak zorunda değildir.
Araştırma İlkesi
- Araştırma : Yapay zeka araştırmasının ana hedefi, yönlendirilmemiş zeka yerine faydalı zekanın yaratılması olmalıdır.
- Araştırma Finansmanı: Yapay zeka araştırmalarına yönelik Parasal Yatırımlara yalnızca yararlı kullanımından emin olunması halinde izin verilmelidir.
- Bilim–politika bağlantısı: Politika yapay zeka araştırmacıları ve politika çerçeveleyicileri arasında yapıcı, açık, kesin ve sağlıklı bir fikir alışverişi olmalıdır.
- Araştırma kültürü: Yapay zeka geliştiricileri ve araştırmacıları arasında işbirliği, güven, refah ve şeffaflık kültürü benimsenmelidir.
- Rekabetten kaçınma: Yapay zeka geliştiricileri, güvenlik standartlarında virajlardan kaçınmak için coşkuyla işbirliği yapmalıdır.
Ahlak ve Değerler
- Güvenlik: Yapay zeka sistemleri operasyonel ömürleri boyunca emniyetli, emniyetli olmalı ve korunmalıdır; uygun ve uygulanabilir olduğu durumlarda da bu durum doğrulanabilir olmalıdır.
- Arıza şeffaflığı: Bir yapay zeka sistemi hasara, yaralanmaya veya zarara neden oluyorsa bunun nedenini belirlemek mümkün olmalıdır.
- Yargı şeffaflığı: Tatmin edici bir açıklama, yargısal karar alma sürecine dahil olan ve yetkili bir insan otoritesi tarafından denetlenebilen özerk bir sistem tarafından sağlanmalıdır.
- Sorumluluk: Gelişmiş yapay zeka sistem tasarımcıları ve oluşturucuları, bunların kullanımının, kötüye kullanımının ve eylemlerinin ahlaki yansımalarının patronlarıdır ve bu sonuçları şekillendirme sorumluluğu ve beklentisine sahiptirler.
- Değer uyumu: İnsani değerlere uyum sağlamak, operasyonları boyunca yüksek derecede özerk yapay zeka sistemleri tasarlamanın en garantili hedefi ve davranışı olmalıdır.
- İnsani değerler: Yapay zeka sistemleri, insan onuru, kültürel çeşitlilik, özgürlük ve haklar idealleriyle uyumlu olacak şekilde tasarlanmalı, kullanılmalı ve işletilmelidir.
- Kişisel gizlilik: Yapay zeka sistemlerinin bu tür verileri analiz etme ve kullanma gücü göz önüne alındığında, kişilerin ürettikleri verilere erişme, bu verileri yönetme, yönetme ve kontrol etme hakları olmalıdır.
- Özgürlük ve mahremiyet: Yapay zekanın kişisel verilere uygulanması, insanların gerçek veya görünen özgürlüğünü haksız yere kısıtlamamalıdır.
- Paylaşılan fayda: Yapay zeka teknolojileri mümkün olduğunca çok insana fayda sağlamalı, yardımcı olmalı ve onları güçlendirmelidir.
- Paylaşılan refah: Yapay zekanın yarattığı ekonomik refah, tüm insanlığa fayda sağlamak ve yardımcı olmak için büyük ölçüde paylaşılmalıdır.
- İnsan kontrolü: İnsanlar, insanların seçtiği hedefleri tamamlamak için kararların yapay zeka sistemlerine nasıl devredileceğini ve buna izin verilip verilmeyeceğini seçmelidir.
- Yıkılmama: Son derece gelişmiş yapay zeka sistemlerinin kontrolü tarafından verilen ve emanet edilen güç, toplumun sağlığının dayandığı sosyal ve sivil uygulamaları yıkmak yerine saygı duymalı ve ilerlemelidir.
- AI silahlanma yarışı: Ölümcül otonom silahlara yönelik bir silahlanma yarışından kaçınılmalıdır.
Uzun Vadeli Sorunlar
- Yetenek uyarısı: Gelecekteki yapay zeka yeterliliklerine ilişkin üst sınırlara ilişkin güçlü varsayımları atlatmak için oybirliği ve fikir birliği şarttır.
- Önem: Gelişmiş yapay zeka, Dünya üzerindeki yaşamın tarihinde anlamlı bir dönüşümü temsil edebilir ve uygun özen ve kaynaklarla planlanmalı ve yönetilmelidir.
- Riskler: Yapay zeka sistemlerinin oluşturduğu riskler, özellikle de felaket veya varoluşsal riskler, öngörülen etkileriyle orantılı planlama ve hafifletme çabalarına tabi olmalıdır.
- Özyinelemeli kendini geliştirme: Hızla çığ gibi büyüyen nitelik veya niceliğe yol açabilecek bir tarzda yinelemeli olarak kendini geliştirmeyi veya kendini kopyalamayı amaçlayan yapay zeka sistemleri, esasen sıkı güvenlik ve kontrol önlemlerine tabi olmalıdır.
- Kamu yararı: Süper Zeka, tek bir kuruluş veya devlet yerine yalnızca yaygın olarak paylaşılan etik ideallerin hizmetinde ve tüm insanlığın yararına geliştirilmelidir.
Sonuçta tüm bu ilkeler etik çerçevede yapay zekanın insanlığa hizmet etmesi amacıyla oluşturulmuştur. Günümüzde yapay zeka yeni yeni gelişmekte olan bir sektörün parçası ve bir noktada bu ilkelerin çoğunluğunu ihlal eden AI örnekleriyle gelecekte karşılaşmak mümkün olacaktır.
Her ne kadar günümüzün bilim kurgu düşüncesi olsa da gelecekte yapay zekanın yönettiği distopik bir dünya fikri, yapay zekanın ilkesel yönünü bir kez daha düşünmemizi neden olabilir.
Ayrıca Asilomar AI hakkında daha fazla bilgi almak için, sitemizde yer alan “Yapay Zeka Etiği Nedir? Önemi ve Zorlukları” adlı içeriğimize de göz atabilirsiniz.
