OpenAI membentuk komite keselamatan dan keamanan saat mulai menguji model AI utama berikutnya

OpenAI mengumumkan pembentukan komite baru untuk mengawasi langkah-langkah keselamatan dan keamanan yang diambil dalam proyek dan operasi perusahaan pada hari Selasa. Komite Keselamatan dan Keamanan terdiri dari anggota Dewan Direksi terpilih dan bertugas mengevaluasi dan mengembangkan lebih lanjut operasi dan perlindungan perusahaan kecerdasan buatan yang berbasis di San Francisco. Komite baru ini dibentuk saat OpenAI mulai menguji model kecerdasan buatan (AI) generasi berikutnya. Khususnya, perusahaan baru-baru ini membagikan Model Spesifikasi, sebuah dokumen yang menyoroti pendekatan perusahaan dalam membangun model AI yang bertanggung jawab dan etis.

Komite Keselamatan dan Keamanan OpenAI

di dalam Entri blogPerusahaan menyoroti rincian komite yang baru dibentuk. “Hari ini, Dewan Direksi OpenAI membentuk Komite Keselamatan dan Keamanan yang dipimpin oleh Direktur Brett Taylor (Ketua), Adam D’Angelo, Nicole Seligman, dan Sam Altman (CEO). Komite ini akan bertanggung jawab untuk membuat rekomendasi kepada seluruh Dewan tentang keputusan keselamatan dan keamanan,” tulis postingan tersebut. Penting untuk proyek dan operasi OpenAI.”

Selain para direktur, Kepala Kesiapan OpenAI Alexander Madry, Kepala Sistem Keamanan John Shulman, Kepala Keamanan Matt Knight, dan Kepala Ilmuwan Jakub Paczucki juga akan menjadi bagian dari panel.

Tugas pertama komite ini adalah mengevaluasi dan mengembangkan lebih lanjut proses dan upaya perlindungan AI selama 90 hari ke depan. Komite kemudian akan membagikan temuan dan rekomendasinya kepada seluruh Dewan Direksi. Rekomendasi tersebut akan ditinjau oleh dewan, setelah itu OpenAI akan membagikan rekomendasi yang disetujui secara publik.

OpenAI mulai menguji model AI generasi berikutnya

Perkembangan baru di OpenAI ini terkait dengan inisiatif baru perusahaan. Mereka telah mulai menguji model AI generasi berikutnya. Dia menggambarkannya sebagai model AI “frontier”, dan menekankan bahwa Large Language Model (LLM) yang belum diuji ini akan membawa perusahaan selangkah lebih dekat ke kecerdasan umum buatan (AGI).

AGI adalah jenis kecerdasan buatan yang dapat memahami, mempelajari, dan menerapkan pengetahuan dalam berbagai tugas di dunia nyata yang serupa dengan kecerdasan manusia. Beberapa definisi AGI juga menyoroti bahwa AGI mampu berfungsi secara otonom dan dapat mengembangkan tingkat kesadaran diri tertentu.