Yapay zeka yarışı birçok firmayı yoracak gibi gözüküyor. Uzun süredir kurumsal tarafta konuştuğumuz yapay zeka çözümleri artık cep telefonlarımız içinde kolaylıkla kullanılabilir. Bunun başlıca nedenlerinden biri kullanılan yongaların becerileri. Yapay zeka artık ceplerimizde ve elimizde.
Vivo gibi akıllı telefon üreticileri de yapay zeka yarışı içerisine girdiler. kTarihler 1 Kasım’ı gösteriyordu ve Çinli akıllı telefon üreticisi Vivo’nun Yapay Zeka Çözüm Direktörü Xie Weiqin Vivo Geliştirici Konferansı’nda şu cümleyi telefonunda arattı. “Yağmurda çöp poşeti takarken gülen bir kızın fotoğrafını bul” ardından fotoğraf neredeyse saniyeler içerisinde teflonda belirdi.
Bu sırada Xie, Vivo’nun en son yapay zeka modeliyle desteklenen akıllı telefon asistanını gösteriyordu. Bu araç fotoğraf ve dosya aramanın yanı sıra, kullanıcılara fotoğrafları düzenleme, makalelerden önemli noktaları çıkarma. Ve anahtar kelimelere veya görsellere dayalı sosyal medya konuları oluşturma konusunda da yardımcı olabiliyor. Bu yeni akıllı telefon işlevleri, uç yapay zeka teknolojisi olarak adlandırılan teknoloji tarafından etkinleştiriliyor.
Edge AI, hesaplamaların merkezi bir bulut bilişim tesisi yerine yerel cihazlarda çalıştırılmasına olanak tanıyor. Kaynak yoğun görevleri işlemek için veri merkezlerine güvenen bulut tabanlı yapay zekadan farklı olarak uç yapay zeka, internet olmadan gerçek zamanlı kararlar alma konusunda becerikli ve günlük kullanımda akıllı cihazlara uygulanabilir.
OpenAI’nin ChatGPT sohbet robotunun 2022 sonlarında piyasaya sürülmesi, insan zekasını taklit edebilen bir tür yapay zeka olan büyük dil modelleri (LLM’ler) etrafında küresel bir yapay zeka yarışı başlattı ve cihaz üreticileri ile çip üreticileri arasındaki rekabeti ateşledi.
Vivo’nun ardından Güney Koreli akıllı telefon devi Samsung Electronics, Gauss üretken yapay zeka modelini 8 Kasım’da sergiledi ve Oppo da aynı ayın sonlarında AndesGPT çözümünü piyasaya sürdü. Xiaomi ve Honor Technology, Ekim ayı sonlarında LLM’lerin geliştirilmesinde ilerleme kaydedildiğini duyurmuştu. Huawei, Ağustos ayında akıllı telefonları için Geniş Dil Modeli entegrasyonunu da yayınlamıştı.
Ekim ayı sonlarında ABD’li çip devi Qualcomm, dünyanın 10 milyara kadar parametreye sahip üretken yapay zeka modellerini destekleyen ilk işlemcisi olan Snapdragon 8 Gen 3 işlemcisini tanıttı. Tayvanlı çip üreticisi MediaTek daha önce Oppo ve Vivo ile Geniş Dil Modeli (LLM) alanında iş birliğini açıklamıştı. MediaTek’in kıdemli başkan yardımcısı JC Hsu, üretken yapay zeka alanında “şiddetli bir yapay zeka yarışı başladığını” söyledi.
Şirketler ve yatırımcılar, yeni yapay zeka teknolojisinin benimsenmesinin zayıflayan tüketici elektroniği pazarını canlandıracağını öngörüyor. Pazar araştırma şirketi Counterpoint’ten elde edilen veriler, 2023’ün üçüncü çeyreğinde küresel akıllı telefon sevkiyatlarının üst üste dokuzuncu çeyrekte de azaldığını, yıllık bazda %8 küçüldüğünü ve son on yılın en düşük üçüncü çeyrek seviyelerine ulaştığını gösteriyor. Küresel PC sevkiyatları da üçüncü çeyrekte %9 düştü.
Counterpoint, yapay zeka destekli bilgisayarların 2024’te sevkiyatlarda bir toparlanma yaratma ihtimalinin çok yüksek olduğunu ve 2026’dan sonra %50’nin üzerinde bir penetrasyon oranıyla bilgisayar pazarına hakim olacağını söyledi.
Bununla birlikte, yüksek işlem gücü gereksinimleri ve yoğun bellek ve depolama alanı kullanımı nedeniyle uç yapay zeka modellerinde zorluklar devam ediyor ve bu da maliyeti önemli ölçüde artırabiliyor. Analistler, pil enerji yoğunluğunun kısa vadede aşılması zor bir donanım darboğazı olması nedeniyle, mobil cihazlar için Geniş Dil Modellerinin enerji tüketiminde zorluklarla karşı karşıya olduğunu söyledi.
Bir Geniş Dil Modeli mühendisi, tüketicilerin uç yapay zekanın getirdiği niteliksel değişimi deneyimlemesinin altı aydan bir yıla kadar sürebileceğini söyledi.
Yapay Zeka Yarışı Son Kullanıcıların Hayatını Olumlu Etkileyecek
Geniş Dil Modelinin akıllı telefonlarda en yaygın uygulaması akıllı asistanlardır. Bu asistanlar, sesli etkileşimlerden ses, metin, resimler ve belgeler gibi birden fazla girişi desteklemeye doğru gelişti. Talimatları pasif bir şekilde takip etmekten doğal konuşmalara katılmaya ve özetleme, bilgi alma ve çok dilli çeviriler yürütmeye doğru ilerlediler.
Xiaomi Teknik Komitesi Yapay Zeka Laboratuvarı Büyük Model Ekibi başkanı Luan Jian, “Geçmişte yapay zeka ile konuşmak, bir çocuğa bakmaya benzer şekilde dikkatli bir değerlendirme gerektiriyordu” dedi. Ancak artık Geniş Dil Modelleri, kullanıcıların yapay zeka ile daha doğal ve rahat bir şekilde iletişim kurmasına yardımcı olabiliyor.
Yapay zeka ayrıca kullanıcılara yerel cihazlarında müzik ve görüntü üretimi konusunda da yardımcı olabilir. Snapdragon Zirvesi sırasında Qualcomm, bir fotoğrafın yapay zeka tarafından oluşturulan manzaralarla zenginleştirilebildiği “fotoğraf büyütme” özelliğini gösterdi. MediaTek emojilerin hızlı neslini sergiledi. Intel CEO’su Pat Gelsinger, Eylül ayında Intel Innovation 2023’te Taylor Swift tarzında şarkı üretebilecek yapay zeka destekli bir bilgisayar göstermişti.
Qualcomm CEO’su Cristiano Amon, bir konuşmasında, bir yıl önce üretken yapay zeka için yalnızca bir veya iki kullanım durumu olduğunu, şimdi ise yüzlerce olduğunu söyledi. Bu sayı 2024 yılına kadar binlere ulaşacak. Amon, “Yapay zekayı cihazda yaygın ve sürekli olarak çalıştırmak, kullanıcı deneyimimizi dönüştürecek” diyor. Tabii ki yapay zeka yarışı içerisindeki bir diğer firma ise Oppo. 
En Büyük Sorun Maliyetler
“Bulutta trilyon parametreli bir model oluşturmak için 1 milyar dolar harcayabiliriz, ancak yüz milyonlarca insanın bunu kullanmasını nasıl sağlayacağız?” Gelsinger, Caixin ile Eylül ayında yaptığı bir röportajda bu soruyu sordu.
Gelsinger, bunun yalnızca kullanıcıların buluta erişmesine izin vererek değil, teknolojiyi müşteriye doğru getirerek başarılması gerektiğini söyledi ve bulut yapay zeka modellerini PC’lerde çalıştırmanın gizlilik ve veri güvenliğini sağlayabileceğini ekledi.
Yapay zeka yarışı içerisindeki akıllı telefon ve çip geliştiricileri son altı ayda, uç yapay zeka modellerinin gizlilik ve güvenliği korumadaki avantajlarından defalarca bahsetti. “Arama kayıtları, fotoğraflar, parmak izleri ve yüzler de dahil olmak üzere kullanıcı verilerinin tamamı analiz ve çıkarım amacıyla büyük modeller tarafından tüketilecek. Her şey buluta, özellikle de üçüncü taraflara gönderilirse bunu kabul edebilir misiniz?” dedi RWKV Dil Modeli’nin kurucu ortağı Luo Xuan.
Honor CEO’su Zhao Ming, bulut yapay zeka modellerinin insan bilgisinin nasıl daha iyi bir şekilde entegre edileceğini ele aldığını, ancak uç yapay zeka modellerinin hizmet sağlamak için kişisel verileri, davranışları ve alışkanlıkları analiz ettiğini söyledi. Zhao, “Bulut yapay zeka modelleri sizin hakkınızda kimlik kartı, telefon numarası, adres ve kilo gibi her şeyi biliyorsa bu çok korkutucu” dedi. Edge AI modelleri, hem verilerin hem de model çıktılarının yerel cihazda kalması nedeniyle bu sorunları önleyebilir.
Vivo Geliştirici Konferansı sırasında Vivo başkan yardımcısı Zhou Wei, bir bulut yapay zeka modelini bir kez kullanmanın minimum maliyetinin 0,012 yuan (0,17 cent Dolar) olduğunu ve mevcut maliyetin ise 0,015 yuan civarında olduğunu söyledi. Zhou, “300 milyon kullanıcının günde 10 kez kullanması nedeniyle fatura yılda yaklaşık 10 milyar yuan’a denk geliyor” dedi.
Artan maliyetler aynı zamanda Geniş Dil Modelini de kenara itiyor. Bulut yapay zeka modellerinde genellikle on milyarlarca veya yüz milyarlarca parametre bulunur ve bu da çıkarım hesaplamasını pahalı hale getirir.
Zhao, “Bugün hiçbir bulut yapay zeka modeli, muazzam hesaplama gücü tüketimi nedeniyle kârlı değil” diyor. Çoğu hesaplama bulut tarafı çözümler gerektirmez. Gelecekte sektör, uç ve bulut yapay zeka modellerini işbirliği içinde kullanmayı planlıyor.
Dengeli Arayışlar Sürüyor
Yapay zeka yarışı içerisndeki firmaların yapmaları gerek çok fazla yatırım var. Akıllı cihazların işlem gücü, belleği, depolama kapasitesi ve pil ömrü ile sınırlandırılan uç yapay zeka modelleri milyarlarca parametreyle eğitilir.
Luo, önümüzdeki altı aydan bir yıla kadar akıllı telefonların 14 milyar parametreye kadar LLM’leri çalıştırabileceğini, PC’lerin ise 60 milyar parametreye sahip modelleri barındırmasının beklendiğini söyledi.
“Gelecekte akıllı telefonlarda işletim sisteminin ‘motoru’ görevi gören, 14 milyar parametreli büyük bir modelin olması muhtemel. Bulut tarafında ise GPT-4’ten bile daha büyük bir model olacak, Luo, “Yeni nesil internetin temeli olarak hareket ediyorlar. Yerel yazılım ile internet arasındaki mevcut ilişkiye benzer şekilde birbirlerini tamamlayacaklar.” diyor.
Luo, bağlamı anlama yeteneğine sahip büyük bir modelin en az 13 milyar parametre gerektirdiğini ve bunun da akıllı telefon belleğini önemli ölçüde kapladığını ve performansı etkilediğini söylüyor. Pil kapasitesini artırmanın zorluğu göz önüne alındığında enerji tüketimi, bellek kullanımından daha önemli bir darboğazdır.
Uç Yapay Zekanın Kaçınılmaz Olarak Donanım Yükseltmeleri Gerektirecek
Zhao, “En büyük zorluk kullanıcı gizliliği, bilgi işlem gücü ve düşük güç tüketimidir. Herhangi bir yapay zeka uygulaması bu üç faktörü dengeleyemezse tüketicilere daha iyi bir deneyim sunamaz” diyor.
Yapay zeka sektöründen birçok kişi, uç yapay zeka modellerinin hâlâ başlangıç aşamasında olduğunu ve sektörün hâlâ gelecekteki uygulamaları araştırdığını söylüyor.
Luan, AI destekli cihazların Geniş Dil Modellerini yönetme yeteneğini geliştirmek için ilk adımın bellek kapasitesini ve bant genişliğini artırmak olduğunu söylüyor. İkinci adım, Geniş Dil Modellerinin ağ yapısını verimli bir şekilde desteklemek için bilgi işlem gücünü artırmak veya optimize etmektir.
Ek olarak, hesaplama gücü taleplerini azaltmak için model sıkıştırma ve nicelemenin sürekli araştırılmasının yanı sıra çıkarım algoritmalarındaki iyileştirmeler de gereklidir.
Luan, “Yine de uç yapay zeka modelleri akıllı telefonların kullanım şeklini kesinlikle değiştirecek” diyor.
İlgili Haberler
>> Microsoft Copilot İle Hayatınız Kolaylaşacak! Şirketin Bahis ve Kumara Karşı Tavrıysa Net!
