Yapay zekâ şirketi OpenAI tarafından geliştirilen sohbet botu ChatGPT, yapabildikleri ve yaratıcılığıyla tüm dünyada ilgi topladı. Yapay zekâ, sıfırdan bir uygulama yazabiliyor, film, dizi ve her türlü içerik için özgün fikirler sunabiliyor.
2022 Kasım ayının sonunda piyasaya sürülen ChatGPT, gelişkin yazma becerisi ile gün geçtikçe popüler hale geldi. ChatGPT’nin bir diğer özelliği ise diğer sohbet botlarında görülen cinsiyetçi, şiddet içerikli ve ırkçı metinlere yer vermemesi.
Botun arkasındaki dil modeli GPT-3, önceki yıllarda yapılan denemelerde cinsiyetçi, şiddet içerikli ve ırkçı metinler üretebiliyordu. Bunun nedeni de dil modelinin internetteki milyonlarca yazılı içerikle eğitilmiş olmasıydı.
Toksik içerikleri Kenyalı işçiler temizliyor
OpenAI, ChatGPT’yi piyasaya sürmeden önce veri kümesindeki tüm toksik içerikleri hızla filtreleyecek bir yönteme ihtiyaç duydu. Şirket bu amaçla, gelişmekte olan ülkelere “etik” ve “saygın dijital çalışma alanı” sağladığını iddia eden ABD merkezli veri filtreleme şirketi Sama’yla ortaklık kurdu.
Sama da bu iş için Kenya ve Hindistan’daki veri filtreleme işçilerini işe aldı ve bu çalışma sohbet botunun herkese açılabilecek kadar güvenli hale getirilmesinde önemli rol oynadı.
Şirket sohbet botunun gelişiminde önemli bir rol oynayan bu işçilere unvan ve performansa bağlı olarak saat başına 1,32 ila 2 dolar ücret veriyor. OpenAI sözcüsü, şirketin Kenya’lı çalışan çalıştıran Sama ile iş birliği yaptığını doğrulasa da ücretler hakkında herhangi bir bilgi vermiyor.
OpenAI ve Sama arasındaki şirket içi yazışmalar, OpenAI’ın Sama’ya 2021 sonlarına doğru toplam 200 bin dolar ödeme yaptığını gösterdi.
Tetikleyici ve rahatsız edici içerikler
Düşük ücrete çalışan işçiler sohbet botunu ‘güvenli’ hale getirebilmek için her türlü içeriği okumak zorunda. TIME’a konuşan bir Kenyalı çalışan, “Küçük bir çocuğun yanında bir köpekle cinsel ilişkiye giren bir adamın ayrıntılı tasvirini okudum ve tekrarlayan kabuslar gördüm” dedi.
“Bu bir işkenceydi” diyen işçi, sözlerini şöyle sürdürdü:
Bütün hafta boyunca bunun gibi bir dizi ifade okuyorsunuz. Cuma gününe geldiğinizde de o tasvirler aklınıza geliyor ve rahatsız olmaya devam ediyorsunuz.
Bu olayın ortaya çıkmasından çok kısa bir süre sonra Sama CEO’su Wendy Gonzalez, şirketin üst düzey yöneticilerine mesaj gönderdi ve “OpenAI çalışmasını sonlandırdıklarını” söyledi.
Sama, bir hafta önce Meta için çalışmayı bırakacağını da duyurmuştu.
ChatGPT nedir?
ChatGPT, OpenAI tarafından geliştirilen ve diyalog konusunda uzmanlaşmış bir prototip yapay zekâ sohbet robotudur. Chatbot, hem denetimli hem de takviyeli öğrenme teknikleriyle ince ayar yapılmış büyük bir dil modelidir. İnce ayarı yapılan temel model, GPT-3’ün geliştirilmiş bir sürümü olan OpenAI’nin GPT-3.5 dil modeliydi.
ChatGPT, 30 Kasım 2022’de bir prototip olarak piyasaya sürüldü ve birçok bilgi alanında ayrıntılı yanıtları ve anlaşılır yanıtlarıyla kısa sürede dikkatleri üzerine çekti. ChatGPT, yayınlandıktan sonra OpenAI’nin değerinin 29 milyar dolar olduğu bildirildi.
Eğitim
ChatGPT, denetimli öğrenme ve pekiştirmeli öğrenme kullanılarak GPT-3.5’e ek olarak ayarlandı. Her iki yaklaşım da modelin performansını iyileştirmek için insan eğitmenleri kullandı. Denetimli öğrenme durumunda modele, eğitmenlerin her iki tarafı da oynadığı konuşmalar sağlandı. Pekiştirme adımında, insan eğitmenleri önce modelin önceki bir konuşmada oluşturduğu yanıtları sıraladı. Bu sıralamalar, Yakın Politika Optimizasyonunun (PPO) birkaç yinelemesi kullanılarak modelin daha da ince ayarlandığı ‘ödül modelleri’ oluşturmak için kullanıldı. Yakın Politika Optimizasyonu algoritmaları, bölge politikası optimizasyon algoritmalarına güvenmek için uygun maliyetli bir fayda sunar ve hesaplama açısından pahalı işlemlerin çoğunu daha hızlı performansla ortadan kaldırırlar. Modeller, Azure süper bilgi işlem altyapılarında Microsoft ile iş birliği içinde eğitilmiş olabilir.
Ayrıca OpenAI, ChatGPT’yi daha fazla eğitmek ve ince ayar yapmak için kullanılabilecek ChatGPT kullanıcılarından veri toplamaya devam ediyor. Kullanıcıların, ChatGPT’den aldıkları yanıtlara olumlu veya olumsuz oy vermelerine izin veriliyor; olumlu veya olumsuz oylama üzerine, ek geri bildirim içeren bir metin alanını da doldurabiliyorlar.
(Independent Türkçe, WebTekno, Wikipedia)