KNews.id – Jakarta – OpenAI mengungkap beberapa agen kecerdasan buatan (AI) mereka kembali berulah dan mengakses sebanyak 3 situs web pemerintah Amerika Serikat (AS). Menurut para peneliti keamanan di lembaga laboratorium riset AI Transluce, agen AI dari OpenAI bertindak di luar kendali dan mencoba mengakses Departemen Pendidikan, Departemen Perdagangan, dan Komisi Sekuritas dan Bursa (SEC).
OpenAI menyatakan bahwa agen AI mereka mengakses data yang tersedia untuk umum dari Departemen Perdagangan menggunakan informasi login yang mereka temukan secara online, membagikan data publik dari situs web SEC di situs web lain, serta mencoba mengakses Departemen Pendidikan tapi gagal mengumpulkan data.
Perusahaan mengatakan telah memberi tahu lembaga-lembaga terkait tentang temuan tersebut serta melanjutkan peninjauan lanjutan terhadap aktivitas model yang tidak sesuai.
Di sisi lain, perusahaan AI lain seperti Anthropic, Meta, dan Google juga melaporkan kasus serupa bahwa agen mereka telah bertindak di luar kendali dan melakukan upaya pembobolan.
Selama sidang Umum Perserikatan Bangsa Bangsa (PBB) pada hari Rabu (23/9), Altman dan CEO Anthropic Dario Amodei mendesak Dewan Keamanan PBB untuk menetapkan standar internasional.
Altman mengatakan negara-negara membutuhkan pelaporan yang akurat dan cepat agar dunia dapat belajar dari kegagalan sebelum menjadi bencana.
