Transformer Mimarisi Nedir?
Transformer Mimarisi nedir? Metindeki kelimeler arasındaki ilişkileri "dikkat" (attention) mekanizmasıyla aynı anda değerlendiren sinir ağı mimarisi. Günümüz büyük dil modellerinin temelidir.
2017'de Google araştırmacılarının yayımladığı "Attention Is All You Need" makalesiyle tanıtıldı. GPT'deki "T" harfi de Transformer'dan gelir; mimari metnin yanı sıra görüntü ve ses modellerinde de kullanılır.