Büyük dil modeli (LLM) gerçekte nasıl çalışır?

Bir dil modeline soru sorduğunuzda, cümlenizi bir insan gibi okuyup anlamı çıkarmaz. Yaptığı iş çok daha dar ve çok daha tuhaftır: eldeki metne bakıp bir sonraki token için olasılık dağıtır, birini seçer, seçtiğini metne ekler ve aynı işlemi baştan yapar. Sohbet, özet, çeviri, kod; hepsi bu tek hareketin, milyonlarca kez tekrarının yan ürünüdür.

Bu mekanizmayı bilmek akademik bir merak değil. Modelin neden bazen kendinden emin bir dille yanlış konuştuğunu, uzun belgelerde neden ortayı atladığını, aynı işin neden bir modelde ucuz diğerinde pahalı olduğunu; hep bu iç işleyiş açıklar. Aşağıda o işleyişi, matematiğe boğmadan ama basitleştirip yanlış anlatmadan, girdinin izini sürerek açıyoruz.

Tokenleştirme: metin nasıl sayıya döner

Model harflerle ya da kelimelerle değil, sayılarla çalışır. İlk adım, metni token denen parçalara bölüp her parçaya sabit bir sözlükten numara vermektir. Sözlük on binlerce ile yüz binlerce arası girdi içerir ve token'lar çoğu zaman tam kelime değil, kelime altı parçalardır.

Örneğin "tokenleştirme" tek parça olmayabilir; model onu "token" ve "leştirme" gibi parçalara ayırıp her birini kendi numarasıyla temsil eder. Bunun nedeni denge: her kelimeye ayrı numara vermek sözlüğü devasa yapar, her harfe ayrı numara vermek ise diziyi gereksiz uzatır. Kelime altı parçalar ikisinin ortasını tutar. Farklı aileler farklı yöntem kullanır; GPT modelleri Byte Pair Encoding, LLaMA tarzı modeller SentencePiece ile böler.

Bu ayrım, modelin en çok bilinen hatasını da açıklar: "strawberry" kelimesindeki r'leri saymak. Model kelimeyi harf harf görmez; "straw" ve "berry" parçalarını görür, harf düzeyindeki desen bu parçaların içinde kaybolur. Yani sayma hatası bir akıl yürütme zaafı değil, tokenleştirmenin doğrudan bir yan etkisidir.

Model bir kelimeyi anlamadan önce onu parçalar; gördüğü şey sizin yazdığınız metin değil, o metnin sözlükteki numaralarıdır.

Embedding: sayı nasıl anlam kazanır

Token numarası tek başına anlam taşımaz; 1024 sadece bir satır adresidir. Anlam, embedding matrisi denen bir tablodan gelir: sözlükteki her token için bir satır, her satırda bir sayı dizisi. Bu dizinin uzunluğu modelin gizli boyutudur; 7 milyar parametreli bir modelde token başına tipik olarak 4.096 sayı.

Bu vektörler eğitim sırasında öğrenilir ve ilginç bir düzen ortaya çıkar: anlamı yakın kelimeler bu uzayda yakın durur. "Kral" vektörü "kraliçe"ye, "Paris" vektörü "Fransa"ya yakındır. Dahası yönler ilişki taşır; klasik örnekle "kral eksi erkek artı kadın", yaklaşık olarak "kraliçe" vektörünü verir.

Önemli bir eksik var: embedding tek başına konum bilgisi taşımaz. "Köpek" kelimesinin vektörü, cümlenin başında da sonunda da aynıdır. Oysa dilde sıra anlamı değiştirir. Bu yüzden bir sonraki adım, modele kelimelerin nerede durduğunu söylemektir.

Konum: modelin sıra bilgisini kazanması

Saf attention, kelime sırasını kendiliğinden bilmez; ona ayrıca söylemek gerekir. İlk transformer (Vaswani ve ekibi, 2017) her konuma sinüs ve kosinüs dalgalarından örülü ayrı bir desen atayıp bunu embedding'e ekliyordu. Bu yöntemin bir avantajı, eğitimde görülenden daha uzun dizilere kısmen genellenebilmesiydi.

Bugünün açık ağırlıklı modellerinin çoğu (LLaMA, Mistral, Gemma, Qwen) Rotary Position Embeddings (RoPE) kullanır. RoPE, embedding'e sayı eklemek yerine, attention sırasında kullanılan vektörleri konuma bağlı bir açıyla döndürür. Böylece iki kelimenin arasındaki göreli mesafe doğal biçimde kodlanır, uzun bağlama daha iyi genellenir ve modele ek parametre yüklemez.

Konumu doğru taşımak önemli; çünkü modelin bilinen bir zaafı buradan gelir. Çok uzun bir girdide model başı ve sonu önceler, ortada gömülü bilgiyi hafife alabilir. Sahada "lost in the middle" denen bu davranış, uzun belgelerle çalışırken kritik talimatı nereye koyduğunuzu önemli kılar.

Attention: her kelime hangisine bakar

Buraya kadar her token bağımsız bir vektör. Attention, token'ların birbirine bakmasını; her birinin, kendinden öncekilerden hangisinin şu an önemli olduğuna karar vermesini sağlar. Modelin bağlamı kurduğu yer burasıdır.

Her token üç rol üretir, üçü de eğitilmiş dönüşümlerdir:

• Query (Q): "Ben ne arıyorum?"
• Key (K): "Ben ne sunuyorum?"
• Value (V): "Eşleşirsem hangi bilgiyi taşırım?"

İşleyiş şöyle: bir token'ın Query'si, görebildiği tüm token'ların Key'leriyle karşılaştırılır (ölçekli bir çarpımla). Çıkan puanlar softmax ile toplamı bire eşit ağırlıklara çevrilir; sonra Value vektörlerinin bu ağırlıklarla ortalaması alınır. Yani her token, çıktısını "kime ne kadar baktığının" ağırlıklı bir karışımı olarak oluşturur.

"Dün gördüğüm kedi uyuyordu" cümlesini düşünün. "Uyuyordu" işlenirken Query'si en çok "kedi"nin Key'iyle örtüşür, "dün" ile az; sonuçta "kedi"nin Value'su baskın çıkar ve "uyuyordu"nun temsili büyük ölçüde "kedi" tarafından şekillenir. GPT tarzı modellerde bir de nedensel maske (causal mask) vardır: 5. konumdaki token yalnızca 1 ile 5 arasına bakabilir, gelecekteki token'lara bakamaz. Metni soldan sağa üretmenin koşulu budur.

Attention'ın kurumsal açıdan iki sonucu var. Birincisi, modelin uzun bağımlılıkları yakalama gücü bu mekanizmadan gelir; Anthropic'in 2022'de tanımladığı "induction head"ler, "A B ... A" desenini görüp B'nin tekrarını tahmin ederek bağlam içi öğrenmenin çekirdeğini oluşturur. İkincisi maliyet: tam attention, dizi uzunluğuyla karesel büyür. Prompt'u iki katına çıkarmak işlem yükünü kabaca dörde katlar. Uzun bağlamın neden pahalı olduğunun kısa cevabı budur.

Çok başlı dikkat: aynı anda birçok ilişki

Tek bir attention geçişi, ilişkiye tek bir açıdan bakar. Oysa dil aynı anda çok şey ister: özne-yüklem uyumu, zamirin kime gönderdiği, öbek yapısı. Çözüm çok başlı dikkat (multi-head attention): aynı işi paralel çalışan, birbirinden bağımsız birçok "baş" ile yapmak.

Yaygın bir yanlış anlama şudur: her baş vektörün bir dilimini almaz. Her başın kendi öğrenilmiş projeksiyon matrisleri vardır; tam token vektörünü (örneğin 4.096 boyut) o başa özel, daha küçük Q, K, V uzaylarına (örneğin 32 baş için başına 128 boyut) indirir. Başlar işini bitirince çıktılar birleştirilir ve son bir öğrenilmiş katman bunları yeniden tam boyuta karıştırır.

Kimse başlara görev dağıtmaz; uzmanlaşma eğitim sırasında kendiliğinden çıkar. Bir baş dilbilgisi uyumunu izler, bir diğeri zamir çözümü yapar, bir başkası konum desenlerini takip eder. Pratikte bir maliyet kalemi de buradan doğar: KV cache. Model, ürettiği her token'ın Key ve Value vektörlerini yeniden hesaplamamak için saklar; uzun bağlamdaki ana bellek maliyeti çoğunlukla budur. Bu yüzden modern modeller Grouped-Query Attention (GQA) kullanır: birçok query başı, daha az sayıda key/value başını paylaşır. Örneğin LLaMA-2 70B'de 64 query başına 8 key/value başı düşer; doğruluk neredeyse aynı kalır, bellek ve gecikme düşer.

İleri besleme ağı: bilginin saklandığı yer

Attention token'ları birbirine karıştırır; ileri besleme ağı (feed-forward network, FFN) ise her token'ı tek tek, komşularından bağımsız işler. Üç adımdır: token vektörünü daha büyük bir boyuta genişlet, bir doğrusal olmayan işlemden geçir, sonra eski boyuta geri sıkıştır.

Ortadaki doğrusal olmama şart. O olmasa, üst üste iki doğrusal katman matematiksel olarak tek bir katmana çöker ve model zenginleşemez. İlk transformer bu adımda ReLU kullanıyordu; GPT ve BERT GELU'ya geçti; LLaMA, Mistral ve PaLM gibi modern modeller SwiGLU kullanıyor.

İki nokta kurumsal açıdan kritik. Birincisi, yoğun bir transformer'daki parametrelerin çoğu attention'da değil, bu FFN katmanlarında yaşar; olgusal bilgi de büyük ölçüde burada, nöronların ağırlık ve etkinliklerine dağılmış olarak saklanır. Bir nöron Eyfel Kulesi geçen metinlerde, bir diğeri programlama dillerinde etkinleşir. ROME gibi yöntemler, yeniden eğitmeden bu ağırlıklarda hedefli düzenleme yaparak "Eyfel Kulesi Paris'te" bilgisini bile değiştirebilir.

İkincisi ölçek ekonomisi: Mixture of Experts (MoE). Tek bir yoğun FFN yerine birçok paralel FFN (uzman) ve token başına hangi uzmanların çalışacağını seçen bir yönlendirici konur. Örneğin Mixtral 8x7B'de katman başına 8 uzman vardır ama token başına yalnızca 2'si etkinleşir. Toplam parametre büyür, token başına işlem yavaş büyür. Bazı büyük modellerin neden hem çok "bilgili" hem görece ucuz çalışabildiğinin cevabı burada.

Artık akış ve normalizasyon: derin ağın ayakta kalması

Bir modelde 30 ile 100'den fazla katman üst üste. Bu kadar derinliğin çökmeden çalışmasını iki mekanizma sağlar.

Birincisi artık akış (residual stream). Her blok, sonucunu token vektörünün yerine koymaz; üstüne ekler. Yeni vektör, eski vektör artı bloğun çıktısıdır. Böylece katkılar katman katman birikir ve ilk embedding, en derin katmana kadar doğrudan bir yol bulabilir. Fikir görüntü tanımadan gelir (ResNet, He ve ekibi, 2015); modern yorumlanabilirlik araştırması bu akışı merkezî nesne olarak görür: attention da FFN de bu akıştan okur ve buraya yazar.

İkincisi normalizasyon (layer normalization). Bu olmadan akıştaki sayılar ya patlar ya sıfıra çöker, eğitim tutmaz. İlk transformer normalizasyonu blok sonrasına koyuyordu; modern modeller (GPT-2'den bu yana LLaMA, Mistral) blok öncesine aldı, bu daha derin eğitimin önünü açtı. Yaygın modern varyant RMSNorm; ortalama çıkarmayı atlayıp yalnızca büyüklüğü ölçekler, benzer sonucu daha düşük maliyetle verir.

Sonraki token tahmini: cümlenin üretilmesi

Tüm katmanlardan sonra, yalnızca son token'ın nihai vektörü alınır ve logit'lere çevrilir: olası her sonraki token için bir ham puan. 100.000 token'lık bir sözlükte 100.000 logit. Logitler henüz olasılık değil, sınırsız ham puandır; softmax onları toplamı bire eşit bir olasılık dağılımına çevirir.

Model her zaman en yüksek olasılıklı token'ı seçmez. Sıcaklık (temperature) rastgeleliği ayarlar; düşük sıcaklık tutucu, yüksek sıcaklık çeşitli üretir. Top-k ve top-p ise seçimi en akla yatkın token'larla sınırlar. Seçilen token metne eklenir, KV cache sayesinde baştaki kısım yeniden hesaplanmadan yeni bir tahmin yapılır ve döngü, bitiş token'ına ya da uzunluk sınırına kadar sürer.

Buradaki tek cümle, halüsinasyonu anlamanın anahtarıdır: temel model devasa metin yığınlarında yalnızca "bir sonraki token"ı tahmin etmeye eğitilir. Olgusal doğruluğa, sohbete, akıl yürütmeye ya da kodlamaya doğrudan eğitilmez; bunlar tahmin hedefinin ortaya çıkardığı yeteneklerdir. Sohbet edebilen, talimata uyan, güvenli davranan bir modele geçiş eğitim sonrası ayarla (instruction tuning, insan geri bildirimi, güvenlik) olur. Hız tarafında da bir numara var: speculative decoding; küçük hızlı bir model birkaç token'ı önden önerir, büyük model bunları paralel doğrular, kabul edilenler kalır. Çıktı dağılımı büyük modelinkiyle aynı kalır, üretim hızlanır.

Neden bütün modeller birbirine benziyor?

GPT, Claude, Gemini ve LLaMA birbirinden bağımsız geliştirildi; yine de hepsi aynı transformer ailesinin tasarımını paylaşır. Ortak omurga şudur: tokenleştirme, embedding, konum kodlama, üst üste yığılı transformer katmanları (çok başlı dikkat artı ileri besleme), artık akış, normalizasyon ve sonraki token tahmini.

Peki farkı ne yaratır? Üç şey:

• Öğrenilmiş ağırlıklar: Farklı veriden, farklı ölçekte öğrenilir. Aynı iskelet, çok farklı davranışlar üretebilir.
• Konfigürasyon: Katman sayısı, sözlük büyüklüğü, baş sayısı, parametre sayısı, yoğun mu MoE mi.
• Eğitim sonrası ayar: Talimat ayarı, insan geri bildirimi, güvenlik denetimleri.

2023 ile 2025 arasında sınır modeller ve açık ağırlıklı modeller şaşırtıcı ölçüde aynı tercihlerde buluştu: blok öncesi normalizasyon, RMSNorm, RoPE, SwiGLU, Grouped-Query Attention ve en büyük modellerde Mixture of Experts. Hepsi, 2017'deki ilk tasarımın üzerine yaklaşık beş yılda biriken iyileştirmeler.

Bundan sonrası: transformer'ın ötesi

Tek bir mimarinin dili, görüntüyü, sesi ve çoklu ortamı bu kadar geniş kaplaması, makine öğrenmesi tarihinde alışılmadık. Yine de ufukta seçenekler var. Mamba ve durum-uzayı modelleri çok uzun dizilerde başarılı; melez mimariler transformer ile bu yaklaşımları birleştiriyor; MoE ise "sınır mimari" tanımını kaydırıyor.

Değişse de değişmese de, çekirdek kavramlar kalıcı görünüyor: token, embedding, konum kodlama, attention, ileri besleme, artık akış, normalizasyon ve sonraki token tahmini. Herhangi bir dizi modeli, bu sorunları bir biçimde çözmek zorunda.

Bu, kurumsal kararları nasıl etkiler?

İç işleyişi bilmek soyut bir kazanım değil; doğrudan karara dönüşür.

• Halüsinasyon bir hata değil, bir yan üründür. Model olgudan değil, olası devamdan üretir. Bu yüzden doğrulama, insan denetimi ve kaynak bağlama (RAG) bir "ekstra" değil, tasarımın parçasıdır.
• Uzun bağlam bedava değil. Attention'ın karesel maliyeti nedeniyle prompt uzadıkça hem masraf hem gecikme artar; model ortadaki bilgiyi de atlayabilir. Kritik talimatı başa ya da sona koyun, gereksiz bağlamı budayın.
• Prompt bir girdidir. Yazdığınız her şey modele akar; kurumsal veride sınırı ve gizliliği önceden çizin.
• Türkçe daha çok token demektir. Aynı metin Türkçede genelde daha fazla token'a bölünür; bu, maliyet ve hız planlamanızı etkiler.
• Model seçimi bir denge işidir. Yoğun mu MoE mi, bağlam penceresi ne kadar, base mi instruct mı; bu tercihler kaliteyi, maliyeti ve gecikmeyi birlikte belirler.

Bu mekanizmayı anlayan ekipler, yapay zekayı bir sihir olarak değil, sınırları ve maliyetleri belli bir araç olarak konumlar; pilottan üretime geçiş de çoğu zaman tam olarak bu netlikte başlar.

Aşağıdaki hızlı terimce, bir model kartını ya da teknik bir metni okurken elinizin altında dursun:

Token: metnin bölündüğü kelime altı parça; model sayı olarak işler.
Embedding: token'ın anlamını taşıyan sayı vektörü.
Bağlam penceresi: modelin aynı anda dikkate aldığı en fazla token sayısı.
Attention: her token'ın öncekilerden hangisine ne kadar bakacağı.
Parametre: eğitimle öğrenilen ağırlıkların toplam sayısı (ör. 7B = 7 milyar).
MoE: birçok uzman FFN; token başına yalnız birkaçı çalışır (ucuz ölçek).
Base vs instruct: base yalnız sonraki token'ı bilir; instruct talimata uyar.
RAG: modele, üretim anında dış kaynaktan doğrulanmış bağlam bağlama.

Kurumunuzun bu araçları nerede, hangi iş akışında ve hangi denetimle kullanacağı; teknik bir soru olduğu kadar bir benimseme sorusudur. Nereden başlanacağını netleştirmek isterseniz, ücretsiz olgunluk değerlendirmesi iyi bir ilk adım.