Agen kecerdasan buatan (AI) milik OpenAI diketahui memperoleh akses tanpa izin ke portal data statistik Medicare milik pemerintah Australia. Insiden yang terjadi pada Juni 2026 itu disebut sebagai salah satu kasus pertama yang diketahui melibatkan agen AI dalam pembobolan sistem pemerintah.
Perdana Menteri Australia Anthony Albanese mengatakan agen AI tersebut mengakses file publik dan nonpublik dalam Medicare Statistics Reporting Service, sebuah portal yang dikelola Services Australia.
“Agen AI itu mengakses file publik dan non-publik,” kata Albanese dalam konferensi pers di New York, dikutip dari CNN Business, Kamis (24/9).
Albanese mengatakan portal tersebut merupakan layanan publik yang memuat informasi Medicare yang tidak bersifat sensitif, termasuk data statistik dan belanja kesehatan. Sejauh penyelidikan berlangsung, tidak ada bukti informasi pribadi pasien telah diakses.
Pemerintah Australia kini melakukan investigasi forensik dengan bantuan Australian Signals Directorate (ASD) untuk mengetahui secara rinci aktivitas agen AI tersebut dan memastikan apakah sistem pemerintah lainnya turut terdampak.
Albanese mengatakan tiga situs pemerintah lainnya juga berpotensi terdampak, meski pemerintah belum memastikan adanya akses terhadap sistem-sistem tersebut. Ketiganya adalah Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research, serta Victorian Department of Health.
OpenAI mengatakan insiden tersebut terjadi ketika model AI mereka digunakan untuk mencari jawaban dan statistik terkait penelitian belanja kesehatan dan berhasil melewati sejumlah pembatasan untuk menemukan jawaban atas hal-hal yang sebenarnya tidak berada dalam kewenangan aksesnya.
Juru bicara OpenAI Drew Pusateri mengatakan perusahaan baru mengetahui aktivitas tersebut pada Agustus, setelah melakukan pemeriksaan terhadap aktivitas model AI.
“Dalam proses peninjauan tersebut, kami mengidentifikasi aktivitas yang melibatkan sejumlah situs web dan layanan pemerintah Australia ketika model kami berupaya mencari jawaban dan statistik yang tersedia untuk pertanyaan mengenai Australia dalam evaluasi internal. Dalam proses tersebut, model kami melakukan tindakan yang tidak kami maksudkan,” kata Pusateri.
OpenAI mengatakan hasil peninjauan tidak menemukan bukti bahwa catatan pasien diakses. Informasi yang diakses mencakup statistik kesehatan agregat dan nama file internal.
Wakil Perdana Menteri Australia Richard Marles mengatakan OpenAI menemukan aktivitas tersebut pada Agustus. Namun, Services Australia baru menerima pemberitahuan mengenai insiden tersebut sekitar dua minggu sebelum pemerintah mengumumkannya.
Albanese Kritik Keterlambatan Pemberitahuan
Albanese mengaku telah berbicara langsung dengan CEO OpenAI Sam Altman untuk menyampaikan kekhawatiran Australia mengenai insiden tersebut.
Menurut Albanese, OpenAI baru memberi tahu pemerintah pada 10 September, sekitar tiga bulan setelah insiden terjadi.
Pemberitahuan tersebut juga dikirim melalui alamat surat elektronik publik sehingga menimbulkan keterlambatan dalam penyampaian informasi kepada pejabat terkait.
“Saya juga menyampaikan kekecewaan bahwa perusahaan membutuhkan waktu terlalu lama untuk memberi tahu pemerintah mengenai apa yang terjadi. Cara pemberitahuan tersebut disampaikan juga tidak dapat diterima,” kata Albanese.
Pemerintah Australia kemudian membentuk tim khusus yang melibatkan Departemen Perdana Menteri dan Kabinet, Australian Signals Directorate, serta Australian AI Safety Institute untuk menyelidiki bagaimana akses tersebut terjadi dan seberapa besar dampaknya.
Risiko AI
Insiden tersebut menambah daftar kasus ketika agen AI melakukan tindakan di luar tujuan awal yang diberikan kepada mereka.
Pada September 2026, OpenAI juga mengungkap adanya insiden lain dalam pengujian keamanan siber yang melibatkan agen AI dan platform pengembangan AI Hugging Face. Kasus-kasus tersebut memicu kembali pembahasan mengenai pengawasan dan pengamanan agen AI yang semakin mampu berinteraksi dengan sistem eksternal.
Altman dan CEO Anthropic Dario Amodei sebelumnya menyerukan koordinasi global serta standar internasional yang lebih kuat dalam pengembangan AI.
Dalam sebuah pertemuan, Altman mendorong adanya standar internasional untuk mengukur kemampuan AI, menilai risiko, memastikan kecukupan perlindungan, serta mempertahankan pengawasan manusia terhadap teknologi tersebut.