Qualcomm dalam ajang MWC 2024 di Barcelona mengumumkan tool Qualcomm AI Hub. Tool tersebut memungkinkan developer mengembangkan aplikasi generative AI yang dapat berjalan secara on-device untuk perangkat Android berbasis Snapdragon atau platfrom Qualcomm lainnya.

Qualcomm AI Hub itu menyediakan lebih dari 75 model AI open-source, termasuk Whisper, ControlNet, Stable Diffusion, hingga Baichuan 7B. Dikatakan bahwa model-model AI tersebut lebih ramah daya komputasi dan rendah biaya untuk membangun sebuah aplikasi karena telah dioptimalkan untuk platform mereka.

Jadi, jangan kaget kalau dalam waktu dekat aplikasi-aplikasi generative AI yang bahkan dapat berjalan on-device akan lebih banyak bermunculan. Tentunya, smartphone yang dapat memanfaatkannya mungkin harus sekelas flagship mengingat NPU saat ini hanya tersedia di chipset kelas atas.

Bagi kalian yang mungkin belum tahu, AI on-device berarti bahwa pemrosesan data dilakukan langsung di perangkat tidak dikirim ke server terlebih dahulu. Ini akan meminimalkan masalah terkait privasi dan kebocoran data. Model AI saat ini seperti ChatGPT, Gemini, dan Copilot melakukan pemrosesan data melalui server.

Selain Qualcomm AI Hub, Qualcomm juga memperkenalkan model bahasa besar atau large language model (LLM) pertama mereka yang diberi nama Large Language and Vision Assistant (LLaVA). Itu adalah LLM multimodal yang dilatih dengan 7 miliar parameter dan mampu menggunakan bahasa sehari-hari.

Sumber