NVIDIA'ya karşı Instinct hızlandırıcılarıyla güçlü bir alternatif oluşturmaya çalışan AMD, bu kez oldukça farklı bir teknoloji geliştiren Taalas'ı bünyesine katıyor.
AMD, Kanada merkezli yapay zekâ çip girişimi Taalas'ı satın almak için kesin anlaşmaya vardığını açıkladı. Satın almanın mali değeri açıklanmazken, Taalas'ın geliştirdiği teknolojilerin gelecekte AMD'nin yapay zekâ hızlandırıcılarında ve Instinct GPU tabanlı sistemlerinde kullanılması planlanıyor.
Taalas'ı farklı yapan ne?
Taalas'ın geliştirdiği teknoloji, günümüzde yaygın olarak kullanılan GPU tabanlı yapay zekâ sistemlerinden farklı bir yaklaşım benimsiyor.
GPU'lar çok sayıda farklı modeli ve hesaplama türünü çalıştırabilecek şekilde genel amaçlı tasarlanıyor. Taalas ise donanımı belirli yapay zekâ modellerinin ihtiyaçlarına göre özelleştirmeyi hedefliyor.
Basitleştirirsek, geleneksel sistemlerde "modeli donanıma çalıştırmak" için uğraşılırken Taalas'ın yaklaşımında "donanım modele göre şekillendiriliyor."
Şirket bu yöntemle özellikle yapay zekâ çıkarımı sırasında ortaya çıkan hesaplama ve bellek darboğazlarını azaltmayı amaçlıyor.
Bellek darboğazına farklı çözüm
Günümüzde büyük yapay zekâ modellerinin çalıştırılmasındaki en önemli sorunlardan biri yalnızca işlem gücü değil.
Model ağırlıklarının bellekten işlem birimlerine sürekli taşınması gerekiyor. Model büyüdükçe ihtiyaç duyulan bellek kapasitesi ve bant genişliği de ciddi biçimde artıyor.
Taalas'ın geliştirdiği özel silikon yaklaşımı ise modelin çalışma biçimini doğrudan donanım seviyesinde optimize ederek bu veri hareketini azaltmayı hedefliyor.
Bunun sonucunda aynı yapay zekâ modelinin daha yüksek hızda ve daha düşük enerji tüketimiyle çalıştırılması mümkün hale gelebilir.
17 bin token/s seviyesine ulaşan gösterim
Taalas'ın teknolojisi daha önce yapılan yapay zekâ çıkarım gösterimleriyle de dikkat çekmişti.
Şirketin geliştirdiği özel donanımın belirli yapay zekâ modellerinde saniyede yaklaşık 17 bin token seviyesine ulaşabildiği bildirilmişti.
Burada önemli bir ayrıntı bulunuyor: Bu performansı doğrudan RTX veya Instinct gibi genel amaçlı GPU'larla karşılaştırmak doğru değil.
Taalas'ın sistemi belirli modeller için özel olarak optimize edildiğinden, yüksek performansının önemli bir bölümü tam olarak bu uzmanlaşmış donanım yaklaşımından geliyor.
Avantajı büyük, ancak önemli bir dezavantajı var
Taalas'ın yaklaşımının en büyük avantajı aynı zamanda en önemli sınırlaması.
GPU satın aldığınızda bugün bir Llama modeli, yarın Qwen veya başka bir yapay zekâ modelini çalıştırabilirsiniz. Donanımı değiştirmeniz gerekmez.
Modele özel silikon yaklaşımında ise donanım belirli bir model veya model ailesi için optimize ediliyor.
Model ciddi biçimde değiştiğinde yeni bir donanım tasarımına ihtiyaç duyulması mümkün.
Bu nedenle teknolojinin yakın gelecekte GPU'ların tamamen yerini almasından ziyade, çok yoğun kullanılan ve uzun süre değişmeyecek yapay zekâ modellerinde özel bir hızlandırıcı olarak kullanılması daha olası görünüyor.
AMD, Instinct GPU'larını bırakmıyor
Satın alma kararı AMD'nin Instinct GPU ailesinden vazgeçeceği anlamına gelmiyor.
Tam tersine şirket, Taalas teknolojisini mevcut yapay zekâ ekosistemini tamamlayan yeni bir parça olarak görüyor.
AMD'nin yapay zekâ altyapısında Instinct GPU'ların yanı sıra EPYC işlemciler, ROCm yazılım platformu ve Helios ölçeklenebilir sistemleri bulunuyor. Taalas'ın teknolojisinin de gelecekte bu ekosisteme dahil edilmesi planlanıyor.
Böylece AMD, her yapay zekâ iş yükünü aynı donanım üzerinde çalıştırmak yerine farklı görevler için farklı hızlandırıcıların kullanılabildiği daha geniş bir altyapı oluşturabilir.
Yapay zekâ çiplerinde yeni dönem başlayabilir
Taalas satın alması, yapay zekâ donanımı sektörünün hangi yöne ilerlediğine dair önemli bir işaret olarak değerlendirilebilir.
Bugün yapay zekâ pazarının büyük bölümü NVIDIA ve AMD gibi şirketlerin geliştirdiği güçlü GPU'lara dayanıyor. Ancak yapay zekâ modellerinin kullanım alanları genişledikçe yalnızca daha güçlü GPU üretmek yeterli olmayabilir.
Belirli modelleri mümkün olan en yüksek hız ve enerji verimliliğiyle çalıştıran özel çipler, önümüzdeki yıllarda veri merkezlerinde GPU'ların yanında çok daha önemli bir konuma gelebilir.
AMD'nin Taalas'ı satın alması da şirketin gelecekteki yapay zekâ yarışını yalnızca daha güçlü GPU'larla değil, modele özel donanımlarla da sürdürmeye hazırlandığını gösteriyor.
