Facebook’un yapay zekâsı kendi dilini mi oluşturdu?

 

Bu sorunun kısa cevabı evet. Peki bu düşündüğümüz şey mi? Bu ne düşündüğünüze bağlı olmakla beraber, muhtemelen hayır.

Yine haberin veriliş şekli nedeniyle, aslında ortada olmayan bir sansasyon olayı ile karşı karşıyayız. Şu başlığı bir düşünün: “Facebook’un yapay zekâsı kendi arasında insanların anlayamayacağı bir dil yaratınca, geliştiriciler YZ’nin fişini çekmek zorunda kaldı!” Elbette bizler başlığın arkasında yatanları hayal gücümüzle doldururken, haberin içeriğinde bir de yakın zamanda Musk ve Zuckerberg arasında yaşanan “YZ tehlikeli midir, değil midir?” tartışmasına ait hatırlatma da zaten harekete geçmiş hayal gücümüzü biraz daha ateşliyor.

Burada gizlice şöyle bir varsayım var adeta: Facebook’un öz farkındalığı olan YZ’si, kendi arasındaki konuşmalarda yaratıcılarından bir şeyler gizlemek için bir dil icat etti! Peki neydi bu konuşma? YZ nükleer kodları mı ele geçirmeye çalışıyordu? Yoksa az gelişmiş bir ülkedeki iktidarı devirip, başa kendi mi geçmeye karar vermişti?

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

YZ’nin icat ettiği dilin ne kadar derin olduğunu merak ediyorsanız bu diyalogu inceleyin. Yalnızca bu paragrafta dahi insanlığı yok etmek için tam 300 farklı eylem planı etraflıca tartışılıyor.

Burada dikkat edilmesi gereken nokta Facebook YZ uzmanları tarafından geliştirilmekte olan YZ sohbet robotlarının nihai amacının insanlarla sohbet etmek olduğunun altını çizmek gerek. Kendi dilini icat eden bir YZ’nin, bu konuda pek kullanışlı olmayacağı açık. Belki “kendi dilini icat etti” kısmını biraz daha “düşünülen dili kullanmayı başaramadı” gibi ele almak daha iyi olur, zira yapılan haberlerden sonra, çalışmada yer alan uzmanlardan Mike Lewis da “amacımız robotların insanlarla konuşmasını sağlamaktı,” demek zorunda hissetmiş.

Ayrıca “uzmanlar fişi çekti!” kısmı da oldukça etkileyici. Uzmanlar adeta, kendi dilini icat eden YZ’yi durdurmak için her yolu denedikten sonra çaresiz kalarak, YZ laboratuvarına elektrik veren santrali havaya uçurmak zorunda kalmışlar gibi. Oysa istendiği gibi çalışmayan bir programı piyasaya sürmek yerine, “fişini çekmeleri” oldukça makul. Ayrıca buradaki “fişini çektiler” sözünün de, “YZ’nin İngilizce’den sapmaması için yapılan müdahale” olduğunu da belirtmek gerek. Yani uzmanlar, YZ’nin arzu edilen dili kullanmadığı ortaya çıktığında ve robotlara dil kullanımları ile ilgili herhangi bir kısıtlama getirmemiş olduklarını fark ettiklerinde, bu kısıtlamaları tanımlamak için devam etmekte olan deneyleri durdurmuşlar. Yoksa YZ’nin üzerinde koştuğu bilgisayarları, yangın dolabından aldıkları baltalarla, YZ kendisini internete yükleyip ölümsüzlüğe ulaşmadan tam bir saniye önce parçalayarak, insanlığı yok olmaktan kurtarmış değiller.

BKZ: Yaklaşan teknolojik tekillik: Post-İnsan döneminde nasıl hayatta kalınır?

Burada, basket topları nükleer silahları, kitaplar biyolojik silahları ve şapka da insanların madenlerde köle olarak çalıştırılmalarını temsil ediyor

Peki ortada korkacak hiçbir şey yok mu? Tekillik elbette mümkün; hatta öz farkındalığı olan, süper zeki, nükleer kodlara erişimi olan ve kötü kalpli bir YZ’den korkmak gayet makul. Ancak Facebook’un YZ çalışmaları – en azından kamuya açıklandığı kadarıyla – bunların hiçbirini kapsamıyor. Yalnız burada başka bir noktanın altını çizmekte fayda var, o da bu sohbet robotlarının blöf yapmayı öğrenmiş olmaları. Yani önümüzdeki yıllarda sizinle konuşacak, ancak yüz ifadesi, ses tonu olmayan bir yazılımın, size blöf yapabileceği. Belki de bundan rahatsız olmak daha yerinde olabilir.

BKZ: Facebook’un Yapay Zekâsı Karşısındakileri ‘Kandırmayı’ Öğrendi

“Uzmanlar, çamaşırları temizlemeyen çamaşır makinalarının fişini çekmek zorunda kaldı!” YZ’dense, çamaşır yıkayamayan çamaşır makinalarının dünyayı ele geçirmeye çalışmasını görmek daha eğlenceli olurdu.

Kaynaklar:

https://code.facebook.com/posts/1686672014972296/deal-or-no-deal-training-ai-bots-to-negotiate/

https://thenextweb.com/artificial-intelligence/2017/08/02/facebooks-ai-creating-its-own-language-is-nothing-to-be-afraid-of/

http://gizmodo.com/no-facebook-did-not-panic-and-shut-down-an-ai-program-1797414922

 

Yorumlar