GPT gibi büyük dil modelleri nasıl çalışır?

GPT yanıt aramak için bir veri tabanını taramaz; eğitim sırasında öğrendiği kalıplardan yola çıkarak küçük parçalar halinde yazar. Bunu kavradığınızda güçlü yönleri, yanılgıları ve en doğru soru sorma biçimi anlam kazanır.

5 dk okumaGüncellendi

Sohbetimize bir soru yazdığınızda GPT, kayıtlı yanıtlardan oluşan bir kütüphaneyi aramaz. Eğitim sırasında devasa miktardaki metinden edindiği kalıplara dayanarak, her seferinde küçük bir parça halinde yeni bir yanıt yazar. Bu temel mantık pek çok şeyi açıklar: dilde neden bu kadar başarılı olduğunu, neredeyse her şeyi neden açıklayabildiğini, bazen tamamen yanlış şeyleri neden büyük bir özgüvenle iddia ettiğini ve soruş tarzınızın neden önemli olduğunu. Bu rehber, hiçbir matematik bilgisine ihtiyaç duymadan ana unsurları sade bir dille ve sohbetleriniz için ne anlama geldikleriyle birlikte ele alıyor.

GPT'nin açılımı

GPT, generative pre-trained transformer (üretken önceden eğitilmiş dönüştürücü) anlamına gelir. Generative (Üretken), sabit yanıtlar arasından seçim yapmak yerine yeni metin ürettiğini ifade eder. Pre-trained (Önceden eğitilmiş), sohbet için uyarlanmadan önce çok geniş bir metin koleksiyonundan öğrendiğini gösterir. Transformer ise içindeki yapay sinir ağı mimarisidir; 2017'de Google araştırmacıları tarafından yayımlanan bu tasarım, her kelimeyi etrafındaki diğer tüm kelimelerle ilişkilendirmede son derece başarılıdır. OpenAI ilk GPT modelini 2018'de yayımladı; sohbetimizdeki GPT-6 Luna ve GPT-6.1 Terra modelleri de bu ailenin güncel üyeleridir. Tam zaman çizelgesi için GPT'nin tarihi sayfasına, genel bakış içinse GPT nedir sayfasına göz atabilirsiniz.

Belirteçler (tokens): bir model nasıl okur?

Bir model harfleri ya da kelimeleri bir bütün olarak görmez. Metin önce belirteçlere (tokens) bölünür. Sık kullanılan bir kelime genellikle tek bir belirteç olur; uzun veya nadir bir kelime ise birkaç parçaya ayrılır. OpenAI'ın İngilizce için kuralı, bir belirtecin yaklaşık üç çeyrek kelimeye denk gelmesidir. Diğer dillerde aynı anlamı ifade etmek için genellikle daha fazla belirteç gerekir.

Belirteçler bazı gariplikleri de açıklar. Modeller, bir kelimedeki harfleri sayarken takılabilir çünkü harfleri hiçbir zaman tek tek görmezler. Girdi ve çıktı sınırları karakterlerle değil, belirteçlerle ölçülür. Ayrıca GPT API sayfamızda belirtildiği gibi geliştiricilere yönelik fiyatlandırma da milyon belirteç başına hesaplanır.

Parça parça tahmin etme süreci

Model özünde tek bir şey yapar: o ana kadarki tüm metne bakarak bir sonraki belirtecin hangisi olabileceğini tahmin eder. Birini seçer, metne ekler ve yanıt tamamlanana kadar bu işlemi yüzlerce veya binlerce kez tekrarlar. Yanıtların sohbette bir anda değil de kelime kelime belirmesinin nedeni budur.

Seçim aşamasındaki küçük bir rastlantısallık, yanıtların her seferinde birebir aynı olmasını engeller. Yeniden oluştur düğmesinin kullandığı mekanizma tam olarak budur: tekrar sorduğunuzda aynı bilgi havuzundan farklı bir yol izlenir. Sohbetimiz önceki denemeleri sürüm olarak saklar, böylece aralarında karşılaştırma yapabilirsiniz.

Tahmin basit bir işlem gibi görünebilir; ancak milyarlarca örnek üzerinde doğru tahminler yapabilmek için bir modelin dil bilgisini, olguları, üslupları, akıl yürütme kalıplarını ve çok daha fazlasını kavraması gerekir. Anlama yetisi gibi görünen şey, aslında bu tahmin baskısının bir sonucudur.

Model nasıl eğitilir?

GPT modelleri belirli aşamalardan geçerek oluşturulur:

  1. Ön eğitim (Pre-training). Devasa bir metin koleksiyonunu işleyerek tek bir görev üzerinde pratik yapar: bir sonraki belirteci tahmin etmek. Bu aşamada herhangi bir metni devam ettirebilir ancak henüz iyi bir sohbet partneri değildir.
  2. Talimat uyarlaması (Instruction tuning). Talimatları izlemeyi ve soruları yanıtlamayı öğrenebilmesi için istem ve başarılı yanıt örnekleriyle eğitilir.
  3. Geri bildirim ve pekiştirmeli öğrenme (RLHF). İnsanlar ve otomatik denetimler yanıtları puanlar; model faydalı, doğru ve güvenli yanıtlara doğru yönlendirilir. Akıl yürütme modelleri de yanıt vermeden önce problemleri adım adım çözmek için bu şekilde eğitilir.

Eğitim belirli bir noktada sona erer ve bu tarih modelin bilgi kesilme noktasıdır (knowledge cut-off). OpenAI'a göre GPT-6 Luna'nın verileri 18 Mayıs 2026'ya, GPT-6.1 Terra'nın verileri ise 1 Haziran 2026'ya kadar uzanır. Siz metin olarak eklemediğiniz sürece model bu tarihlerden sonrasını bilmez ve sohbetimiz internette gezinme yapmaz.

Bağlam penceresi: modelin gördüğü alan

Bir modelin sohbetler arasında hafızası yoktur. Tek bir sohbet içinde yalnızca bağlamı (context) görür: talimatlar, o ana kadarki mesajlar ve en son mesajınız (hepsi belirteç olarak). OpenAI, Luna ve Terra modellerine yaklaşık 1,05 milyon belirteçlik bir bağlam penceresi sunar; bu da birkaç kalın kitaba yetecek büyüklüktedir.

Bizimki gibi ücretsiz bir sohbet arayüzü, yanıtların hızlı kalması için çok daha küçük bir dilim gönderir: sohbetin en güncel kısmı. Çok uzun bir sohbette, ilk mesajlar bağlamın dışında kalabilir. Önemli bir ayrıntı varsa bunu tekrarlayın veya mevcut durumu kısaca özetleyerek yeni bir sohbet başlatın. Her sohbet birbirinden bağımsızdır; model diğerinde ne söylediğinizi hatırlamaz.

Akıl yürütme: yanıt vermeden önce düşünme

Akıl yürütme modelleri, görünür yanıttan önce arka planda bir çalışma süreci yürütür. Bu durum, biraz zaman alsa da problemi adımlara ayırmalarını ve kendi hatalarını yakalamalarını sağlar. Sohbetimizde Think seçeneği, kısa bir süre akıl yürüten GPT-6.1 Terra modeline geçer; varsayılan model olan GPT-6 Luna ise neredeyse anında yanıt verir. Akıl yürütme modelleri rehberimiz, bu bekleme süresine ne zaman değeceğini açıklar.

Uydurma yanıtlar nereden kaynaklanır?

Model her zaman mantıklı görünen bir devam metni yazdığından, bilgiler eksik olduğunda dahi yazmaya devam eder. Niş bir konu hakkında kaynak istendiğinde, böyle bir kaynak olmasa bile kaynak biçiminde bir yanıt üretir. Küçük bir kasaba hakkındaki soruya, genel olarak kasabalara uyabilecek ayrıntılarla yanıt verir. Modelin içinde "Bunu bilmiyorum" diyen güvenilir bir sinyal mekanizması yoktur; ancak yeni modeller belirsizlikleri kabullenmede daha başarılıdır. İsimler, sayılar, tarihler ve alıntılar için teyit yapmanın önemi buradan gelir; doğrulama rehberimiz bu konuda pratik bir yöntem sunar.

Tüm bunların istemleriniz için anlamı

Yukarıdaki tüm bilgiler birkaç pratik kurala dönüşür:

Zayıf:
Sözleşmede erken fesih hakkında ne yazıyor?

Güçlü:
Kira sözleşmemin 9. maddesi şöyle: [maddeyi yapıştırın].
Sözleşmeyi ne zaman erken feshedebileceğimi, ne kadar süre
önceden bildirmem gerektiğini ve bana maliyetinin ne
olabileceğini sade bir dille açıkla. Her noktanın dayandığı
cümleyi alıntıla.
  • Metni doğrudan yapıştırın. Model, bağlamında bulunan metin üzerinde, hayal meyal hatırladığı bilgilere kıyasla çok daha iyi çalışır.
  • Net olun. Eklediğiniz her ayrıntı, tahminleri ihtiyacınız olan sonuca doğru daraltır.
  • Her noktayı doğrulayabilmek için verdiğiniz metinden alıntı veya referans isteyin.
  • Uzun bir sohbetin odağı dağıldığında yeni bir sayfa açın; yeni bir sohbette kısa bir özet sunmak genellikle daha iyi sonuç verir. Bu özeti yazmak için özetleyiciyi kullanabilirsiniz.
Modeli, yanında hiç notu olmayan çok bilgili bir yazar gibi düşünün. Kapsamlı okumalar yapmıştır, akıcı yazar ve neredeyse her şeyi açıklayabilir; ancak hiçbir kaynağa dönüp bakamaz. Bildiğiniz gerçekleri modele verin, emin olmadıklarınızı ise mutlaka teyit edin.

İşleyişi canlı görmek ister misiniz? GPT'den kendisini açıklamasını isteyin (beş adımda), ardından net olmayan kısımlar hakkında takip soruları sorun.

SSS

GPT yazdıklarını anlıyor mu?

Bu, anlamaktan ne kastettiğinize bağlıdır. Fikirler arasındaki ilişkileri açıklayabilecek, özetleyebilecek ve bunlar üzerinden akıl yürütebilecek düzeyde kavradığı açıktır; ancak dünya hakkında gerçek bir deneyimi ve olguları mantıklı bir tahminden ayırabilecek kesin bir yöntemi yoktur.

Sohbetlerimden bir şeyler öğrenir mi?

Görüşme sırasında ve sohbetimizdeki oturumlar arasında öğrenmez. Modelin bilgisi eğitim aşamasında sabitlenmiştir. OpenAI, müşteri aksini tercih etmedikçe API üzerinden gönderilen verilerin eğitim için kullanılmadığını belirtmektedir.

Tekrar sorduğumda neden farklı bir yanıt alıyorum?

Model her bir belirteci küçük bir rastlantısallıkla seçer; bu nedenle aynı soru farklı ifadelere veya yapılara yol açabilir. Olgusal konularda farklı bir yanıt almak, bilgiyi doğrulamanız gerektiğine dair bir işarettir.

GPT ile ChatGPT aynı şey mi?

Hayır. GPT, OpenAI tarafından geliştirilen model ailesidir; ChatGPT ise OpenAI'ın bu modeller üzerine kurduğu kendi uygulamasıdır. gpt.me, GPT modellerini bir API aracılığıyla kullanan bağımsız bir sitedir; aralarındaki farklar ChatGPT karşılaştırması sayfamızda yer almaktadır.

Bir sorunuz mu var? Hemen sorun

Hesap açmak yok, indirmek yok. Sohbeti açın, aklınızdakini yazın; yanıt bir iki saniye içinde gelmeye başlasın.

Sohbete başlayın