Yapay zeka buluttan cebimize indi

Qualcomm, OpenAI'ın daha önce sadece bulut üzerinde çalışan gelişmiş yapay zeka modellerinden birinin artık doğrudan Snapdragon işlemcili cihazlarda çalışabildiğini duyurdu.

Qualcomm, yaptığı bir açıklamayla yapay zeka alanında yeni bir dönemin kapılarını araladı. Bugüne kadar yalnızca bulut altyapılarında çalıştırılabilen gelişmiş OpenAI modelleri, artık ilk kez doğrudan cihaz üzerinde çalışabilecek. Qualcomm, OpenAI’ın açık kaynaklı ilk akıl yürütme modeli olan gpt-oss-20b‘nin, amiral gemisi Snapdragon işlemcilere sahip cihazlarda yerel olarak çalıştırıldığını duyurdu.

Bu gelişme, yapay zeka asistanlarının buluta bağımlılığını azaltarak verilerin cihazda kalmasını sağlayan “cihaz üzerinde yapay zeka” (on-device AI) konseptinin geldiği son noktayı gözler önüne seriyor.

Buluttan cihaza geçiş

OpenAI’ın gpt-oss-20b adlı 20 milyar parametrelik bu modeli, özellikle “düşünce zinciri akıl yürütme” (chain-of-thought reasoning) yeteneğiyle öne çıkıyor. Bu yetenek, modelin karmaşık problemleri adım adım analiz ederek çözmesine olanak tanıyor. Qualcomm, kendi Qualcomm AI Engine ve Qualcomm AI Stack platformları ile yaptığı entegrasyon testleri sayesinde, bu denli büyük bir modelin tüm akıl yürütme yeteneklerini tamamen cihaz üzerinde etkileyici bir performansla sergilediğini belirtti.

Qualcomm Technologies’in blog yazısında bu an, “zengin asistan tarzı akıl yürütmenin bile yerel olacağı bir geleceğe bir bakış” olarak tanımlandı. Bu iş birliği, aynı zamanda yapay zeka ekosisteminin olgunluğunu da gösteriyor. OpenAI gibi liderlerin açık kaynaklı yenilikleri, Snapdragon işlemcileri kullanan iş ortakları ve geliştiriciler tarafından neredeyse gerçek zamanlı olarak benimsenebiliyor.

Geliştiriciler için yeni fırsatlar

gpt-oss-20b modelinin cihaz üzerinde çalışması, başta gizlilik ve düşük gecikme olmak üzere önemli avantajlar sunuyor. Verilerin işlenmek üzere buluta gönderilmemesi, kullanıcı gizliliğini en üst seviyeye çıkarırken, yerel işlem gücü sayesinde yanıt süreleri de minimuma iniyor.

Geliştiriciler, bu güçlü modele Hugging Face ve Ollama gibi popüler platformlar aracılığıyla erişebilecek. Özellikle Ollama’nın hafif ve açık kaynaklı yapısı, gpt-oss-20b modelini Snapdragon platformlarında çalıştırmayı kolaylaştırıyor. Bu entegrasyon sayesinde geliştiriciler, web araması gibi ek özellikleri de kutudan çıktığı gibi kullanabilecekler. Konuyla ilgili daha fazla teknik detayın yakında Qualcomm AI Hub üzerinden paylaşılması bekleniyor.

Qualcomm, önümüzdeki birkaç yıl içinde mobil cihazlardaki bellek kapasitelerinin artması ve yazılım altyapılarının daha verimli hale gelmesiyle birlikte, cihaz üzerindeki yapay zeka yeteneklerinin katlanarak artacağını öngörüyor. Bu durum, gelecekte tamamen kişiye özel, gizli ve anlık tepki verebilen “ajansal deneyimlerin” (agentic experiences) önünü açacak.

Daha Fazla Göster

İlgili Makaleler

Başa dön tuşu