Huawei Technologies, yeni tanıttığı Flex:ai adlı açık kaynaklı yazılım ile yapay zeka çiplerinin kullanımını önemli ölçüde artırmayı hedeflediğini belirtti. Şirket, bu adımın Çin'in en modern işlemcilere erişim kısıtlamalarını telafi etme amacı taşıdığını vurguladı.
Editörlükten edinilen bilgiye göre, Flex:ai çeşitli üreticilere ait GPU, NPU ve diğer hızlandırıcıları birleştirerek tam yükle çalışmalarını sağlayan bir orkestrasyon sistemi olarak tanıtıldı. Yazılım, bir fiziksel kartı birkaç sanal hesaplama birimine bölebilir ve paralel olarak birden fazla yapay zeka görevinin yürütülmesine olanak tanır.
Huawei, yazılımın çiplerin fiili kullanım oranını ortalama %30 artırabildiğini belirtiyor. Sisteme dahil edilen Hi Scheduler adlı yönetim mekanizması, kümeler arası kaynak dağılımını optimize eder ve boşta kalan işlemcileri toplayarak onları diğer iş yüklerine yönlendirebilir.
Şirket, Flex:ai projesinin Huawei ModelEngine topluluğu aracılığıyla açıkça paylaşılacağını duyurdu. Araştırmaya Şanghay Jiao Tong, Xi'an Jiaotong ve Xiamen üniversitelerinden uzmanlar da katıldı.
Uzmanlar, yazılımın işlevselliğinin Nvidia tarafından 2024 yılında satın alınan Run:AI şirketinin teknolojisini anımsattığını belirtiyorlar. Bu da Çin şirketlerinin kaynak optimizasyonuna yönelik stratejisinin küresel trendlere uygun olduğunu gösteriyor.