Qualcomm mengumumkan kemitraan dengan perusahaan kecerdasan buatan Mistral pada hari Rabu. Kemitraan ini, yang diumumkan pada Snapdragon Summit, akan membuat dua model AI Mistral – Ministral 3B dan Ministral 8B – dioptimalkan untuk pengoperasian pada perangkat pada perangkat yang didukung oleh berbagai chip seri Snapdragon Elite. Perusahaan mengatakan model AI ini akan menambah kemampuan AI pada ponsel pintar, komputer, kendaraan, dan lainnya. Langkah ini bertujuan untuk meningkatkan kecepatan pemrosesan dan mengurangi konsumsi daya untuk tugas-tugas kecerdasan buatan.
Qualcomm dan Mistral bekerja sama untuk menghadirkan model AI ke perangkat
Dalam siaran persnya, pembuat chip tersebut secara resmi mengumumkan bahwa Qualcomm dan Mistral akan bekerja sama untuk menghadirkan model AI spesifik yang dirancang untuk berjalan di perangkat tersebut. Langkah ini bertujuan untuk mengurangi ketergantungan pada pemrosesan edge dan cloud untuk tugas-tugas AI, yang dianggap boros energi dan lebih lambat dibandingkan dengan pemrosesan lokal. Qualcomm juga menambahkan bahwa model AI ini akan dioptimalkan tidak hanya untuk platform selulernya tetapi juga untuk PC dan ekosistem kendaraan.
Melalui kemitraan ini, Ministral 3B dan Ministral 8B akan dioptimalkan untuk berjalan pada perangkat yang mendukung Snapdragon 8 Elite untuk ponsel pintar, Snapdragon Cockpit Elite dan Snapdragon Ride Elite untuk mobil, serta Snapdragon X Elite untuk PC berkemampuan AI yang baru saja diluncurkan.
Model AI Ministral 3B dan 8B digunakan Dipecat Minggu lalu. Ini adalah model bahasa besar (LLM) pertama perusahaan yang dirancang untuk penggunaan komersial. Model ini mendukung pemanggilan fungsi sehingga ideal untuk kasus penggunaan API. Menurut Mistral, model AI mendukung hingga 1,28,000 konteks simbolik.
Qualcomm mengatakan bahwa model AI pada perangkat akan memberikan banyak manfaat bagi pengguna akhir termasuk peningkatan privasi, pengurangan latensi, keandalan yang lebih tinggi, efisiensi energi, dan penghematan biaya. “Ministral 3B dan Mistral 8B dari Mistral AI akan memungkinkan produsen perangkat, vendor perangkat lunak, dan penyedia layanan digital untuk menghadirkan pengalaman inovatif, seperti asisten AI dan aplikasi lain yang memahami keinginan dan kebutuhan pengguna,” kata Durga Maladi, Wakil Presiden Senior dan Manajer Umum . Direktur Teknologi, Perencanaan dan Solusi Lanjutan di Qualcomm Technologies.
Saat ini, pengembang dapat mengakses model AI Mistral 7B v0.3 melalui Qualcomm AI Hub. Dua model AI Kementerian akan ditambahkan ke pusat tersebut dalam beberapa minggu mendatang.
