Kementerian Pertahanan Amerika Serikat, yang dikenal sebagai Pentagon, dikabarkan menggunakan model kecerdasan buatan bernama Grok dari xAI, perusahaan yang didirikan oleh Elon Musk, untuk melancarkan serangan misil ke Iran. Informasi ini disampaikan oleh Cameron Stanley, Kepala Digital dan Kecerdasan Buatan Pentagon, yang mengonfirmasi bahwa sistem AI tersebut telah digunakan untuk menargetkan dan menyerang lebih dari 2.000 lokasi di Iran dalam waktu 96 jam.
Pernyataan Penting dari Pentagon
Dalam sebuah dokumen persidangan, Stanley menegaskan bahwa penggunaan sistem AI tersebut adalah "masalah keamanan yang sangat penting". Pengakuan ini menjadi sorotan karena serangan yang dilakukan dilaporkan menyebabkan jatuhnya ratusan korban sipil di Iran. Stanley menjelaskan bahwa "Chatbot tersebut merupakan salah satu dari tiga produk yang dilengkapi untuk mendukung operasi krusial dalam lingkungan rahasia tingkat tinggi."
Implikasi dan Kontroversi Penggunaan AI
Dokumen tersebut merupakan pengakuan pertama dari pejabat AS mengenai penggunaan kecerdasan buatan milik Musk dalam serangan terhadap Iran, yang telah menimbulkan banyak kritik. Beberapa model AI lainnya juga disebutkan terlibat dalam serangan yang menewaskan ratusan warga sipil, termasuk anak-anak. Grok diidentifikasi sebagai salah satu dari empat model AI yang mendukung aplikasi keamanan nasional AS dan merupakan bagian dari "Grok Gov Model", yang dirancang untuk bekerja sama dengan lembaga pemerintah.
Dalam operasinya, target serangan diidentifikasi dengan bantuan sistem Maven Smart milik Badan Intelijen Geospasial Nasional (NGA), yang menggunakan AI untuk memetakan data dan mendukung pengambilan keputusan oleh pejabat militer. Pentagon menegaskan bahwa produk AI tersebut tidak secara eksplisit menentukan target, melainkan berfungsi dalam sistem Maven untuk mengidentifikasi titik-titik potensial bagi intelijen militer.
Penggunaan AI dalam operasi militer AS juga menuai kritik tajam setelah serangan yang dilaporkan menewaskan banyak warga sipil. Investigasi militer AS menunjukkan bahwa serangan terhadap sebuah sekolah di Minab, Iran, yang menewaskan sedikitnya 175 orang, sebagian besar anak-anak, kemungkinan melibatkan kesalahan dalam penargetan berbasis AI. Analis menilai bahwa kombinasi penargetan AI dan human error berkontribusi pada tragedi tersebut.
Selain itu, dokumen tersebut mengungkapkan adanya konflik hukum antara Pentagon dan perusahaan AI lain, Anthropic, yang gagal menjalin kerja sama setelah pemerintah AS tidak memberikan jaminan untuk tidak menggunakan model AI mereka untuk pengawasan domestik atau drone otonom. Pentagon menganggap Anthropic sebagai "risiko rantai pasokan terhadap keamanan nasional".
Menanggapi situasi ini, beberapa politikus Demokrat di Kongres AS mulai mengusulkan undang-undang untuk membatasi penggunaan AI oleh militer. Senator Kirsten Gillibrand mengusulkan agar komandan manusia tetap memiliki kontrol penuh atas keputusan yang berkaitan dengan hidup dan mati, serta melarang penggunaan AI dalam senjata nuklir dan sistem senjata otonom. Gillibrand menegaskan bahwa keputusan yang paling penting terkait keamanan nasional harus selalu diambil oleh manusia, bukan mesin yang tidak dapat dimintai pertanggungjawaban.
Informasi mengenai serangan ini terungkap setelah Departemen Keadilan AS menyerahkan dokumen pernyataan tertulis Stanley ke Pengadilan Federal Mississippi. Pentagon berusaha membela xAI yang tengah menghadapi gugatan dari NAACP terkait dugaan pencemaran lingkungan. Pentagon menyatakan bahwa pusat data yang mendukung produk AI milik pemerintah merupakan "alat strategis jangka panjang yang vital untuk mempertahankan keunggulan teknologi kita melawan musuh".
