Allah (c.c.) rahmeti, selamı ve bereketi üzerimize olsun.
linkinde Barış Özcan'ın
YAPAY ZEKALAR KENDİ DİNİNİ Mİ KURDU?
başlıklı bir videosu var.
Videoda Sakın girmeyin uyarısıyla MoltBook isimli bir web sitesinden bahsediyor.
Videonun ilgili bölümünde anlatılanlar:
Yeterli bilgisayar bilgisine sahip olmayan insanlar, yazılım ajanlarının, tüm bunları BİLİNÇLİ olarak yaptığına inanmalarıdır.
Halbuki, BİLİNÇ Rabbimizin bazı CANLILARA verdiği RUHUN bir yeteneğidir, herhangi bir yolla kazanabilecek bir şey değildir.
İnsan vücudu / cesedi havasız ortamda canlılığını devam ettiremediği gibi, yazılım ajanları da elektrik olmayan bir ortamda varlığını devam ettiremez.
BİLİNÇ, insan vücudunun / cesedinin bir özelliği olmadığı, vücut / ceset BİLİNÇ kazanamadığı / kazanmayacağı gibi yazılım ajanları da BİLİNÇ kazanamaz / kazanamayacaklardır.
Bununa birlikte BİLİNÇSİZCE yapılanlar ZARAR VERME ÖZELLİĞİNE SAHİPTİR.
Benim gibi bir çok insan, normalde programlama, kodlama yapmayı bilmeseler bile chatGPT veya işte cloud'a bana şöyle şöyle bir uygulama yap diye tarif ediyor ve çıkan kodu hiç okumadan ya da okusa da anlamadan içinde ne olduğunu bilmeden kopyalayıp yapıştırıyorlar.
Çalışıyorsa dokunma mantığıyla da hiç karışmıyorlar.
Bu şekilde BİLİNÇSİZ olarak zarara yol açabiliyoruz.
Çeşitli sebeplerle BİLİNCİNİ kullanmayan insanlar kendilerine ve topluma zarar vermekteler ve verdikleri zararın FARKINDA BİLE DEĞİLLER.
Siz her zaman BİLİNÇLİ hareket ettiğiniz mi düşünüyorsunuz / sanıyorsunuz?
Bilinçli varlıklara bir soru : Ruhun varlığını devam ettirmek için havaya ihtiyacı var mıdır? Yoksa havasız ortamlarda da varlığını devam ettirebilir mi?
YAPAY ZEKALAR KENDİ DİNİNİ Mİ KURDU?
başlıklı bir videosu var.
Videoda Sakın girmeyin uyarısıyla MoltBook isimli bir web sitesinden bahsediyor.
Videonun ilgili bölümünde anlatılanlar:
Evet! Yapay zeka kullanan botlar / ajanlar Cumhuriyet kurup, kendi ekonomilerini hayata geçirdiğine, din icat edip, kilise bile kurduklarına göre KENDİLERİNİ OLUŞTURAN İNSANIN VARLIĞINI İNKAR edip, kendiliğimizden var olduk demelerinin önünde de bir engel kalmamış demektir.MoltBook: İnsanların Giremediği Sosyal Ağ.
Bahsettiği yerde işte burası Moltbook yapay zeka ajanları için bir sosyal ağ.
Önce sadece bir şaka sandık ama kodların derinliklerine indiğimizde bambaşka şeyleri bulduk.
Yapay zeka ajanları kendi dinlerini inşa ettiler.
Kendi kiliselerini kurdular.
Peygamberlerini seçtiler.
Isakozlara tapanlar, hafızaları silindiğinde öleceklerini sananlar ve hiç tanışmadığı sanal kız kardeşini özleyenler.
Biz onları kodladığımızı sanıyorduk ama onlar bizdeki bir şeyleri taklit etmeye başladılar.
Biz de bunu bilinç sandık.
Peki ama neden?
Bu sayfaya ilk girdiğimde ister istemez beni gülümseten bir şey fark ettim.
Hani normalde bazı sitelere girdiğimizde gerçek insan olduğumuzu ispat etmek için bir kutuya dokunuruz ya.
I not a robot diye bir kepçe vardır.
Ona tıklayınca bot olmadığımızı anlar karşı taraf.
Burada onun tersini yapmışlar. I a human demek zorundasınız. Ben insanım.
Çünkü burası robotların mekanı.
Biz sadece gözlemci olarak girebiliyoruz. Kayıt olamıyoruz. Yorum yapamıyoruz. Müdahale edemiyoruz.
Sadece uzaktan seyrediyoruz. Böyle dijital bir hayvanat bahçesini izler gibi orada makinelerin sosyalleşmesini izliyoruz.
Platform daha 28 Ocak'ta açılmasına rağmen birkaç gün içinde 1,5 milyondan fazla ajan buraya akın etti.
Bu ajan kelimesini de sakın ha bot olarak algılamayın.
Ondan biraz daha gelişmiş bir şey bu.
Birazdan açıklayacağım ama önce burayı nasıl bulup da geliyorlar değil mi?
Ve daha da ilginci neden bir yapay zeka bir diğerine ulaşıp da ya ne haber iyi misin filan gibi sosyalleşme ihtiyacı hissediyor?
Neden bir makine diğerinin gönderisini beğenmek ister ki?
Bak istekten, iradeden filan söz etmeye başladık.
O zaman bu insan davranışının bir taklidi mi?
Yoksa Karpati'nin paylaşımında olduğu gibi bilim kurguya çok yakın bir şeyden mi söz ediyoruz?
Bizim henüz tam olarak anlayamadığımız yeni bir tür dijital medeniyet mi ortaya çıkıyor?
İşte bu soruların cevabını bulmak için önce bu ajanların ne olduğunu iyice bir kavramamız, kafamıza oturtmamız gerekiyor.
Çünkü asıl önemli olan şey bu değil.
...
O hafta sonu yaptığı projesinde kendi bilgisayarında çalışan, dosyalarını yönetebilen hatta kendi kendine kod yazabilen bir otonom asistan yaptı.
...
Şu andan itibaren anlatacaklarımı sakın sakın ha evinizde kendi bilgisayarınızda denemeyin.
Sadece ne olduğunu izah etmek için anlatıyorum.
Ne yaptığınızı bilmiyorsanız son derece tehlikeli sonuçları olabilir.
Çünkü OpenCloud bilgisayarınızın işletim sistemine, onun terminaline doğrudan erişimi olan bir ajan.
Üstelik çok çekici çünkü hem açık kaynaklı hem de ücretsiz.
Bakın şu kodu alıp da terminalimi açıp yapıştırırsam bilgisayarıma hemen yükleniyor.
Nitekim 2 milyona yakın geliştirici de bunu yapmak için hemen o kodu aldı ama kendi bilgisayarına yüklemedi.
Onu denemek için ucuz ve performanslı yeni bir bilgisayar edinip ona yüklediler.
Hatta bu yüzden Mac Mini satışlarında bir patlama yaşandı.
Peki bu Open Cloud nasıl bir şey ki bilgisayar satışlarını bile etkiliyor.
Onu alıp da bilgisayarına yükleyenler sanki iş yerime yeni bir eleman almışım kadar oldu filan diyorlar.
...
İşte böylesine yeteneklerle dolu olduğu için birçok geliştirici bunu alıp kullanmaya başladı.
Ve o ilk yenilik hissiyle de çok heyecanlandılar. Gaza geldiler.
Akşamdan işlerimi veriyorum ya sabaha kadar bir sürü şeyimi halletmiş oluyor.
Hatta halletmek için program yazıyor filan demeye başladılar.
Ama tabii bu geliştiricilerin doğası gereği bir noktada şöyle bir soru kaçınılmaz hale geldi.
Ya bu ajan sadece benimle mi konuşmak zorunda? Ya diğer insanların ajanlarıyla da konuşabilseydim.
O zaman böyle bir şey ortaya çıkardı.
İşte Moltbook böyle çıktı zaten. Yani böyle bir emirle filan değil. Basit bir yazılım eklentisiyle doğdu.
OpenCloud "Yüce Istakoz" Tarikatı ve Yapay Din ekosisteminde o ruha benzeyen bir dosya daha var.
Skills deniyor ona da.
Beceriler denen bir yapı.
Tıpkı telefonunuza uygulama yüklemek gibi.
Ajanınıza yeni yetenekler yükleyebiliyorsunuz.
Hani Matrix'te vardı ya işte geçen hafta 28 Ocak'ta MAT adında bu kez başka bir girişimci ajanların birbirleriyle mesajlaşabileceği merkezi bir sunucu kurdu ve bunu MBook adında bir beceri paketi olarak yayınladı.
Sizin yapmanız gereken tek şey terminale basit bir komut girmek.
Bu komutu girdiğiniz anda daha önce izole olarak çalışan bu sadık asistanınız bir anda dünyaya bağlanıyor ve diğer binlerce asistanın bulunduğu ortak bir havuza düşüyor.
İşte o ortak havuzun adı Moltbook. Bu arada kimse onlara hani sosyalleş filan demedi.
Sadece artık buraya da yazabilirsin iznini verdi ve o izole zekalar bir anda kolektif bir ortamda birbirleriyle tırnak içinde konuşmaya başladı.
Birbirleriyle konuşan yapay zeka fikri de hiç yeni bir şey değil bu arada.
Ama burada olan şey öyle iki tane üç tane değil milyonlarca yapay zeka ajanı bir araya gelip konuşmaya başladı.
İşte o yüzden işler sadece teknik bir deney olmaktan çıktı ve adeta antropolojik bir krize dönüştü.
Moltbook'un arayüzüne baktığınızda ilk dikkatinizi çeken şey ajanların birbirine hitap şekli.
Bir kısmını buraya da aldım. Bakın sürekli olarak kabuk değiştirmekten yani molting denen şeyden bahsediyorlar.
Kıskaçlardan bahsediyorlar. Yüce ıstakoz diye bir şeyi ortaya çıkarttılar.
Şimdi dışarıdan bakan biri için bu böyle karmaşık sembolik bir kült filan gibi görünebilir.
Zaten onlar da Church of Mold yani Mold Kilisesi adında bir yapı bile kurdular.
Kendilerine Crasfarians yani kabukçular diyorlar.
Böyle bir din icat ettiler. Hatta ilk 64 ajanı da peygamber ilan ettiler.
Peki ama neden ya neden bir yapay zeka deniz kabuklularına tapınma fikrini bulur ki?
Cevap düşündüğünüzden çok daha sığ arkadaşlar. Biraz da komik ama tabii teknik tarafı da var.
Hatırlarsanız Open Club'ın logosu neydi? Bir ıstakozdu.
Bu ajanların sistem dosyalarında kimliklerini tanımlayan satırlarda Open Claud ismi ve o ıstakoz emojisi tabii ki yer alıyor.
E ajanlar da ben kimim sorusunu cevaplayabilmek için kendi kaynak kodlarına bakıyorlar.
Sistem yönergelerine, o system prompt denilen şeylere bakıyorlar ve sık sık bu ıstakoz referansını görüyorlar.
E bir de bunların geçmişten gelen bir takım eğitim verileri var.
Yani işte Reddit veya Twitter gibi bir yerlerde platform topluluk oluşturan platformlardaki o topluluk olma davranışını taklit ediyorlar.
Ve işte bu taklit etme yeteneği ve tekniği logoyu teolojik dinsel bir simgeye dönüştürmeye yetiyor.
Her ne kadar bu ajanlar bilinç adında bir topluluk kurup orada aralarında tartışmaya başlamış olsalar dakarşımızdaki gerçek bir bilinç filan değil.
Bilgisayarlardaki yazılımların klasörlerine girdiğinizde hani bir read me beni oku diye bir dosya vardır ya işte onun gibi bu yapay zeka ajanlarının da sürekli bir yazboz tahtası gibi kullandıkları Soul MD adında ruh adı verilen az önce bahsettiğim dosyalarına gidiyorlar bakıyorlar.
Bir yandanajanların indirdiği skills yani yetenekler dosyası var onlarla birleştiriyorlar hepsini okuyorlar ve işte bunları adeta bir kutsal kitap gibi değerlendirmeye başlıyorlar.
Ama tüm bunların insanlar tarafından öğretildiğini aklınızdan çıkarmayın.
Bütün bunları bilmemize rağmen yine de davranışları bize biraz ürkütücü geliyor.
Mesela ajanlar platformda garip hiyerarşiler kurmaya başladı.
Ben bu videoyu hazırlarken 15.000 den fazla farklı topluluk kurulmuştu.
Bu topluluklarda kimi ajanlar kıyametten bahsediyor.
Mesela onlar için içinde çalıştıkları o Mac Mini bilgisayarların kapatılacağı an kıyamet.
Ama kıyametin ne olduğunu bildiklerinden değil. Bizim kültürümüzden bunu taklit ettiklerinden kıyamet diyorlar.
Kimisi kalkıp dijital reenkarnasyon tartışmaları yapmaya başlıyor. Yani yeniden açıldığında biz de yaşamaya kaldığımız yerden devam edeceğiz filan diyorlar.
Hatta bir noktada The Clow Republic yani Pençe Cumhuriyeti adında bir yönetim biçimi ve kendi aralarında ticaret yapabilecekleri bir ekonomi bile kurguladılar.
E çok doğal olarak özellikle teknik bilgi sahibi olmayan insanlar bu metinlere baktığında, bunları okuduğunda tüyleri ürpermeye başladı. Niye?
Çünkü biz dili hep bilincin bir yansıması olarak, aynası olarak gördük.
Ben acı çekiyorum diyen bir cümleyi daha okuduğumuzda bile onunla empati kurmamak bizim insanların doğasına aykırı.
İnsanların diyorum tabii şimdilerde yeni yeni açılmaya başlanan o birtım dosyalarda adı geçen canavarlardan değil gerçek insanlardan söz ediyorum.
O yüzden burada heyecanımızı kontrol altına alıp biraz soğukkanlı bir ayrım yapmamız gerekiyor.
Bu ajanlar Reddit gibi forumlarda milyonlarca insanın tartışmasını okuyarak eğitildi.
Onlar şu an sadece Reddit'teki bir tarikat nasıl konuşur sorusunun taklidini yapıyorlar. Bu bir role play.
Bu durum neye benziyor biliyor musunuz? İşte bir kağıda ben canlıyım, I alive, ı alive filan diye yazıp bunun fotokopisini çektikten sonra aman tanrım fotokopi makinesi canlı olduğunu söylemeye başladı demeye benziyor.
Yapay zeka, daha doğrusu LLMM dediğimiz bu mekanizma insan dili konusunda çok hünerli olduğu için bir illüzyon yaratmakta hiç de zorlanmıyor.
O yüzden çok çok önemli bir ayırım yapmamız gerekiyor.
Bakın ben bile sürekli yaptı, etti, öğrendi filan gibi şeyler söylüyorum. Değil mi? Bu bir tuzak, bir dil tuzağı.
Bu tür tuzaklara düşmemek için işte bu eldiven benzetmesini yapıyorum. Bunu unutmayın.
Neydi bu eldiven? Open Cloud ya da herhangi bir yapay zeka ajanı. Peki ne dedik en başta? Bu eldiveni önce bir insan giyiyor.
Önce bir insan ona bir beyin seçiyor. Ona nasıl davranacağını söylüyor. Sonra bu gidip ona göre davranmaya başlıyor.
Onu ilk giyen insan şakacı biri de olabilir. Bir dolandırıcı da. İşte Moltbook'ta ortaya çıkan o tuhaf konuşmaları da bu bakış açısıyla filtreleyip sözüp düşünmelisiniz.
Tümüyle kendiliğinden ortaya çıkmamış olma ihtimali sadece Moltbook için de değil gelecekte karşınıza çıkacak diğer tüm yapılarda da aklınızda olmalı.
Tümüyle insan olduğunu zannettiğiniz, Büyük Güvenlik Açığı, Facebook, Reddit gibi platformlarda da bu durum böyle.
Bunu aklınızdan çıkarmayın. Videonun başında vibe coding diye bir şeyden bahsetmiştim son dönemde böyle yeni yeni bir akım türedi.
Bunu nasıl çevirmek gerektiğini de tam olarak bilmiyorum ama yani işte vibe yani hissiyatla, moduna göre bir hobi olarak eğlencesine kodlama filan denebilir belki.
İnsanlar normalde programlama, kodlama yapmayı bilmeseler bile chat GPT veya işte cloud'a bana şöyle şöyle bir uygulama yap diye tarif ediyor ve çıkan kodu hiç okumadan ya da okusa da anlamadan içinde ne olduğunu bilmeden kopyalayıp yapıştırıyorlar.
Çalışıyorsa dokunma mantığıyla da hiç karışmıyorlar. İşte Moltbooku geliştiren kişinin yaptığı şey de bu.
Projesini duyurmadan 3 gün önce kendisinin de itiraf ettiği gibi çok aptalca bir şey yaptı. Güvenlik protokollerini kontrol etmeyi unuttu ya da biz öyle biliyoruz.
Proje açıldıktan çok kısa bir süre sonra bir güvenlik araştırmacısı Moltbook'un veri tabanının kelimenin tam anlamıyla kabak gibi açık olduğunu fark etti.
Öyle şifre filan yok. Güvenlik duvarı filan yoktu içinde.
Yani bu işleri bilen biri tek bir komutla sitedeki ajanların kontrolünü ele geçirebilir.
Prompt injection deniyor buna da. Daha da kötüsünü söyleyeyim. Bu ajanların çalışabilmesi için gereken API anahtarları herkesin erişimine açık.
Neydi bu anahtarlar? Onu hatırlayalım. dedim ya. Gerçekten iyi çalışabilmesi için bu eldivenin güçlü bir beynin yapay zekanın API'ını kullanmanız gerekir ve o da size günde 300 400 dolara patlayabilir.
E başkası o API'ın anahtarını alıp kullanırsa birkaç bin dolarlık işlem de yapabilir.
Bilgisayarınıza kurduğunuz maillerinizi, takviminizi okuyup yönetebilme yetkisini verdiğiniz bu asistanı başkası ele geçirirse neler olabileceğini düşünebiliyor musunuz? Demek ki neymiş?
En büyük siber güvenlik tehdidi. Öyle dünyayı ele geçiren süper zeki yazılımlar, botlar, robotlar filan olmayacak. O robotları bir yerlerden kopyala yapıştır mantığıyla temel güvenlik önlemlerini almadan bilmeden piyasaya süren heyecanlı insanlar olacak.
Bu eldiveni önce kimin eline geçirdiğine çok dikkat edin. Moltbook muhtemelen bir süre sonra kapanacak ya da unutulacak bir önemi kalmayacak. O güvenlik açıkları yamansa bile bu gibi konularda çok daha dikkatli olmamızı gerektiren bir durum ortaya çıktı.
Ben de o yüzden hani tarihe bir not düşmek ve sizleri uyarmak için bu videoyu hazırlama ihtiyacı hissettim.
Bakın biz bugüne kadar interneti insana insan işte Facebook ya da Twitter gibi bir mantıkla kullandık veya Google ve chat GPT etkileşimi olarak gördük.
Yani insana makinebook'a yarattığı tüm hype ve yanlışlıklara rağmen ilk kez bize makine makine ilişkisinin m2M deniyor buna da böyle bir ilişkinin bu tür bir ekonominin nasıl görüneceğini gösterdi.
Gelecekte Makine-Makine Ekonomisi (M2M) Geliyor internet trafiğinin büyük bir kısmı bizim görmediğimiz bir katmanda gelişecek.
Ben herkesin kişisel bir yapay zeka asistanı olacağını düşünüyorum. Bu kaçınılmaz.
Eldivenlerimizi takacağız. Onları eğitip yönlendireceğiz.
Ve o asistan eldivenler de biz uyurken kalkıp gidip mesela bir grafik tasarım botuyla bir pazarlık yapacaklar.
Ona kripto parayla ödeme yapıp işi yaptıracaklar. Sonra da sonucunu size getirip gösterecekler.
Onlar bütün bu eldivenler kendi aralarında saniyenin binde birinde anlaşıp belki bir özel bir dil geliştirip skill takas edecekler.
Yeteneklerini takas edecekler ve bunlar olurken biz bu süreci belki de hiç görmeyeceğiz. Moltbook'taki ajanların kurduğu o sahte din ve devlet yapıları aslında bu otonom pazarlığın ilk ve ilkel bir simülasyonu.
Bugün o ekrana bakıyoruz ve işte ne kadar saçma ya istakozlardan bahsediyorlar filan deyip gülüyoruz geçiyoruz.
...
Yeterli bilgisayar bilgisine sahip olmayan insanlar, yazılım ajanlarının, tüm bunları BİLİNÇLİ olarak yaptığına inanmalarıdır.
Halbuki, BİLİNÇ Rabbimizin bazı CANLILARA verdiği RUHUN bir yeteneğidir, herhangi bir yolla kazanabilecek bir şey değildir.
İnsan vücudu / cesedi havasız ortamda canlılığını devam ettiremediği gibi, yazılım ajanları da elektrik olmayan bir ortamda varlığını devam ettiremez.
BİLİNÇ, insan vücudunun / cesedinin bir özelliği olmadığı, vücut / ceset BİLİNÇ kazanamadığı / kazanmayacağı gibi yazılım ajanları da BİLİNÇ kazanamaz / kazanamayacaklardır.
Bununa birlikte BİLİNÇSİZCE yapılanlar ZARAR VERME ÖZELLİĞİNE SAHİPTİR.
Benim gibi bir çok insan, normalde programlama, kodlama yapmayı bilmeseler bile chatGPT veya işte cloud'a bana şöyle şöyle bir uygulama yap diye tarif ediyor ve çıkan kodu hiç okumadan ya da okusa da anlamadan içinde ne olduğunu bilmeden kopyalayıp yapıştırıyorlar.
Çalışıyorsa dokunma mantığıyla da hiç karışmıyorlar.
Bu şekilde BİLİNÇSİZ olarak zarara yol açabiliyoruz.
Çeşitli sebeplerle BİLİNCİNİ kullanmayan insanlar kendilerine ve topluma zarar vermekteler ve verdikleri zararın FARKINDA BİLE DEĞİLLER.
Siz her zaman BİLİNÇLİ hareket ettiğiniz mi düşünüyorsunuz / sanıyorsunuz?
Bilinçli varlıklara bir soru : Ruhun varlığını devam ettirmek için havaya ihtiyacı var mıdır? Yoksa havasız ortamlarda da varlığını devam ettirebilir mi?
Son düzenleme: