Meta Connect 2024, konferensi pengembang perusahaan, diadakan pada hari Rabu. Dalam acara tersebut, raksasa media sosial ini meluncurkan beberapa fitur AI dan perangkat wearable baru. Selain itu, Meta juga telah mengumumkan kemitraan dengan raksasa teknologi Arm untuk membangun model bahasa kecil (SLM) khusus. Model AI ini dikatakan dapat digunakan untuk memberi daya pada ponsel cerdas dan perangkat lain serta memperkenalkan cara-cara baru dalam menggunakan perangkat tersebut. Ide di balik hal ini adalah untuk menyediakan opsi komputasi pada perangkat dan edge untuk menjaga inferensi AI tetap cepat.
Menurut CNET sebuah laporanMeta dan Arm berencana membangun model AI yang dapat melakukan tugas lebih lanjut di perangkat. Misalnya, AI dapat bertindak sebagai asisten virtual untuk perangkat dan dapat melakukan panggilan atau mengklik foto. Hal ini tidak terlalu mengada-ada seperti saat ini, di mana alat AI sudah dapat melakukan banyak tugas seperti mengedit foto dan menyusun email.
Namun, perbedaan utamanya adalah pengguna harus berinteraksi dengan antarmuka atau mengetikkan perintah tertentu agar AI melakukan tugas tersebut. Di acara Meta, keduanya dilaporkan menyoroti keinginan mereka untuk menghilangkan hal ini dan membuat model AI lebih intuitif dan responsif.
Salah satu cara untuk melakukannya adalah dengan menghadirkan model AI pada perangkat atau menjaga server tetap dekat dengan perangkat. Yang terakhir ini juga dikenal sebagai komputasi tepi dan digunakan oleh lembaga penelitian dan perusahaan besar. Raghavan Srinivasan, wakil presiden manajemen produk untuk AI generatif di Meta, mengatakan kepada publikasi tersebut bahwa mengembangkan model AI baru ini adalah cara yang baik untuk memanfaatkan peluang ini.
Oleh karena itu, model AI harus berukuran lebih kecil. Meskipun Meta telah mengembangkan model bahasa besar (LLM) hingga 90 miliar parameter, mereka tidak cocok untuk perangkat yang lebih kecil atau pemrosesan yang lebih cepat. Model Llama 3.2 1B dan 3B diyakini ideal untuk tujuan ini.
Namun, masalah lainnya adalah model AI juga harus dilengkapi dengan kemampuan baru yang lebih dari sekadar pembuatan teks sederhana dan visi komputer. Di sinilah Arm berperan. Menurut laporan tersebut, Meta bekerja sama dengan raksasa teknologi tersebut untuk mengembangkan model AI yang dioptimalkan prosesor yang dapat beradaptasi dengan alur kerja perangkat seperti ponsel cerdas, tablet, dan bahkan laptop. Tidak ada rincian lain tentang SLM yang dibagikan saat ini.
