Yapay zekâlara sorular sorduğumuzda verdikleri cevaba tam olarak nasıl ulaştığı konusu yapay zekâ üreticileri ve araştırmacıları için bile halen gizemini koruyor.
Bu bilinmezlik, insanların yapay zekâdan tedirgin olması hatta korkması sonucunu doğuruyor.
Aslında bu bilinmezlik, özgüveni yüksek bir şekilde bize bir hatalı bilgi vermesi sonucunu oluşturması veya konudan bağımsız/ilgisiz bir cevap oluşturması sonuçlarını da doğuruyor.
Yapay zekânın çalışmasındaki gizem bazı firmaları yapay zekâ kullanma konusunda geri durmasına neden oluyor. Hâlbuki yapay zekâların iç işleyişleri daha şeffaf olabilseydi birçok firma daha yaygın kullanma hususunda güven duyabilirdi.
*
Fortune’nin haberine göre, yapay zekâ şirketi Anthropic’teki araştırmacılar, yapay zekâ türü olan büyük dil modellerinin tam olarak nasıl çalıştığına dair anlayışımızda temel bir atılım yaptıklarını söylüyorlar. Bu atılımın, gelecekte yapay zekâ modellerini nasıl daha güvenli, daha emniyetli ve daha güvenilir hale getirebileceğimiz konusunda önemli çıkarımları var.
Mesela; Claude gibi büyük dil modelleri (LLM) başlangıçta bir cümledeki bir sonraki kelimeyi tahmin etmek için eğitilmiş olsalar da, süreçte Claude’un en azından belirli türden görevler söz konusu olduğunda daha uzun vadeli planlama yapmayı öğrendiğini buldular. Claude’den bir şiir yazması istendiğinde, şiirin konusu veya temasıyla uyumlu kelimeler buluyor ve sonra bu kafiyeli kelimelerle bitecek cümleler kurmak için geriye doğru çalışıyor. Ayrıca çok dilli olarak eğitilen Claude’un her dilde muhakeme için tamamen ayrı bileşenlere sahip olmadığını da buldular. Bunun yerine, diller arasında ortak olan kavramlar model içindeki aynı nöron kümesine yerleştiriliyor ve model bu kavramsal alanda “muhakeme” yapıyor ve ancak ondan sonra çıktıyı uygun dile dönüştürüyor gibi görünüyor.
Araştırmacılar ayrıca Claude’un bir kullanıcıyı memnun etmek için düşünce zinciri hakkında yalan söyleyebildiğini keşfettiler. Araştırmacılar bunu modele zor bir matematik problemi sorarak, ancak daha sonra modele bunu nasıl çözeceği konusunda yanlış bir ipucu vererek gösterdiler. Aslında yapay zekâ, bir hesaplama yaptığını iddia etmesine rağmen, bunun gerçekleştiğine dair hiçbir kanıt bulunamıyor.
*
Bazı yapay zekâ uzmanları, insan zihinlerinin diğer insanlar için de sıklıkla anlaşılmaz olduğunu ve yine de tüm gün insanlara bağımlı olduğumuzu söylüyorlar. Bizler insan olarak nasıl ki başka birinin ne düşündüğünü gerçekten söyleyemiyorsak, yapay zekâya da böyle bakılabileceğini ifade ediyorlar.
Psikologlar bazen kendi düşüncemizin nasıl çalıştığını bile anlamadığımızı, sezgisel olarak veya büyük ölçüde bilincinde bile olmadığımız duygusal tepkiler nedeniyle yaptığımız eylemleri haklı çıkarmak için sonradan mantıksal açıklamalar uydurduğumuzu söylerler. Genellikle başka bir kişinin az çok bizimle aynı şekilde düşündüğünü yanlış bir şekilde varsayarız ve bu da her türlü yanlış anlamaya yol açabilir. Ancak çok genel olarak konuşursak, insanların bir şekilde benzer şekillerde düşünme eğiliminde olduğu ve hata yaptığımızda bu hataların bir şekilde tanıdık kalıplara düştüğü de doğru görünüyor. Psikologların bu kadar çok yaygın bilişsel önyargıyı tanımlayabilmelerinin nedeni budur.
Araştırmacılar, “mekanik yorumlanabilirlik” olarak isimlendirilen geliştirdikleri teknikler sayesinde hızlı bir ilerleme kaydedildiğini söylüyorlar. Muhtemelen bir veya iki yıl içinde, insanların nasıl düşündüğü hakkında bilinenden daha fazlasını bu modellerin nasıl düşündüğü hakkında öğrenilebilecek. Çünkü sınırsız sayıda deney yapılabilyor.
Kısa istemler için bile yapay zekâ çalışma modunu tespit etmek bir uzmanının birkaç saatini alıyor ve geliştirilen teknikle çok daha uzun olan istemleri ele almak için nasıl ölçeklendirilebileceği net değil.
Yapay zekâ ile ilgilenen herkes gibi bu konudaki gelişmeleri de ilgiyle ve merakla takipte olacağız. Sağlıcakla kalın.
1969 yılında Adapazarı’nda doğdu. İlk ve orta öğretimini Adapazarı’nda, Lise eğitimini Sakarya 1. Endüstri Meslek Lisesinde (Elektrik Bölümü) tamamladı. Lisans eğitimini Yıldız Teknik Üniversitesi Elektrik Mühendisliği Bölümünde tamamladı. İlk Yüksek Lisans eğitimini Sakarya Üniversitesi Fen Bilimleri Enstitüsünde “Yüksek Mühendis” unvanını alarak, ikinci Yüksek Lisans eğitimini ise Sakarya Üniversitesi Sosyal Bilimler Enstitüsünde İşletme bölümünde “İşletme Bilim Uzmanı” unvanını alarak tamamladı. Askerliğini kısa dönem olarak Ankara’da ve Manisa’da yaptı. Çalışma hayatına 1991 yılında Milli Eğitim Bakanlığı’nda başladı, Sivas, Tekirdağ ve Sakarya illerinde Teknik Öğretmen ve Yönetici olarak vazife yaptı. 2004-2007 yılları arasında Adapazarı Merkez Belediyesi’nde Teknik İşler Başkan Yardımcısı, 2007-2014 yılları arasında Sakarya Su ve Kanalizasyon Genel Müdürlüğü’nde Genel Müdür Yardımcısı ve 2021-2022 yılları arasında Teftiş Kurulu Başkanı olarak görev aldı. Halen Elektrik Makine ve Malzeme İkmal Daire Başkanı olarak vazife yapmaktadır ve bu daire sorumluluğunda kuruma ait 6 HES ve 1 GES işletmeciliği yapılmaktadır. 2017-2024 yılları arasında Mimar ve Mühendisler Grubu (MMG) Sakarya Şube Başkanlığı’nı yürütmesinin yanında yerel ve ulusal ölçekli derneklerde muhtelif görevlerde bulunmuştur. 2015 yılından bu yana “Gayrimenkul Değerleme Uzmanlığı" da yapmaktadır. Telekomünikasyon alanında Cem SERTEL ile birlikte kaleme aldığı “Haberleşme Tekniği-1” kitabı halen lise ve üniversitelerde okutulmaktadır. Evli ve 3 çocuk babasıdır.
