Facebook’un Yapay Zekâsı Karşısındakileri ‘Kandırmayı’ Öğrendi

Facebook’a ait yapay zekâ pazarlık ederken taviz verir gibi görünmeyi öğrendi ve bunu kendine ait bir dilde yaptı!

Facebook Yapay Zekâ Araştırma Merkezi [İng. Facebook Artificial Intelligence Research Lab. – FAIR ] uzmanları, birbirleri ile konuşan chatbotların, bir süre sonra beklenmedik bir şekilde “birbirlerini aldatmaya çalıştıkları” ve bazı durumlarda aralarında kendi yarattıkları bir dilde konuşmaya başladıklarını fark ettiler.

Gerçekleştirilen çalışmada, yapay zekâ ajanlarına, karşılarındakilerine ait başarı kriterlerini bilmedikleri, farklı başarı kriterleri tanımlanarak, kendilerine verilen sanal eşyalar konusunda “pazarlık etmeleri” istendi. Buradaki amaç, öncelikle ajanların konuşarak kendi aralarında uzlaşmaya varabilmeleri ve bu sırada da mümkün olduğunca “kârlı” bir şekilde, yani kendi kişisel kriterleri ile belirlenen en yüksek puanı toplayarak pazarlığı tamamlayama çalışmalarıydı.

Solda-Yapay zekâ ajanlarına verilen sanal objeler. Sağda-Yapay zekâ ajanlarının kendi aralarındaki “pazarlık” konuşmaları (görsel: FAIR)

Yapay zekâ ajanları bu konuda oldukça başarılı oldular; hatta daha pazarlıktan daha kârlı çıkabilmek için karşılarındakileri “aslında kendilerine puan vermeyecek nesneleri istediklerine” ve böylece, pazarlığın ilerleyen süreçlerinde “taviz veriyor olduklarına” dahi ikna etmeye çalışmaya başladılar. Yani yapay zekâ ajanları, amaçlarına ulaşmaya çalışırken, “aldatmacalara” başvurdular!

Ayrıca, bazı durumlarda ajanlar yeterince verimli pazarlık edemediklerini düşündüklerinden olsa gerek, insan dillerinden uzaklaşarak, kendi aralarında yarattıkları farklı dillerde konuşmaya da başladılar.

Facebook’un chatbotlarının dünyayı ele geçirme konusunda ne kadar istekli oldukları konusunda bir bilgimiz yok; ancak orta vadede, sizinle sizin dilinizde konuştuktan sonra, yanındaki diğer yapay zekâya dönerek, sizin, veya hiçbir insanın anlamadığı bir dilde bir şeyler tartıştıktan sonra tekrar size döndüğünü düşünün.

Makinaların istediğimiz her şeyi sorgusuz sualsiz yerine getirdiği bu güzel günlerin keyfini çıkarın; bir süre sonra bizi kendilerine hizmet etmeye “ikna” edebilirler.

Kaynaklar:

https://s3.amazonaws.com/end-to-end-negotiator/end-to-end-negotiator.pdf

https://thenextweb.com/artificial-intelligence/2017/06/19/facebooks-ai-accidentally-created-its-own-language/

https://futurism.com/a-facebook-ai-unexpectedly-created-its-own-unique-language/

Yorumlar