MALUKU — Sejumlah peneliti Google DeepMind mengundurkan diri karena menolak teknologi AI mereka dipakai untuk operasi militer. Sofia Ligouri, insinyur riset asal Inggris, keluar pekan lalu setelah tiga tahun bekerja dan menyoroti kontrak Google dengan militer AS serta Israel. Andreas Krisch menyusul awal bulan ini dengan alasan serupa.
Sofia Ligouri mengundurkan diri dari Google DeepMind setelah menilai arah perusahaan semakin mendorong penggunaan sistem AI untuk operasi militer. Kepada BBC, ia menyatakan rasa malu bekerja di Google karena kerja sama perusahaan dengan militer Amerika Serikat dan Israel kian erat.
Keputusan Ligouri keluar setelah tiga tahun berkarier di laboratorium AI tersebut. Ia menilai langkah perusahaan tidak lagi sejalan dengan prinsip dan nilai etika yang selama ini dinyatakan Google sendiri.
Alasan di Balik Pengunduran Diri
Ligouri menyebut kerja sama Google dengan militer AS dan Israel sebagai pemicu utama. Menurutnya, keterlibatan itu bertentangan dengan komitmen perusahaan soal penerapan AI yang mengedepankan pengawasan manusia serta selaras dengan hukum internasional dan hak asasi manusia.
"Menyadari bahwa perusahaan tempat saya bekerja semakin mendorong penggunaan sistem AI dalam operasi militer membuat saya merasa malu bekerja di Google," kata Ligouri kepada BBC, Kamis (22/10).
Ia menambahkan tidak setuju dengan arah kebijakan tersebut. Kepercayaan bahwa Google benar-benar berpegang pada nilai etika yang dinyatakannya, menurut Ligouri, kini hilang.
Kekhawatiran Soal Peran Manusia dalam Keputusan Militer
Sejumlah mantan dan karyawan Google yang masih aktif, serta para ahli yang diwawancarai BBC, khawatir sistem AI untuk keperluan militer bisa mengambil keputusan di situasi genting tanpa campur tangan manusia yang memadai. Kekhawatiran ini mencuat khususnya terkait kesepakatan AI militer yang ditandatangani tahun ini.
Kesepakatan tersebut disebut memperluas cakupan penggunaan teknologi AI yang diizinkan Pentagon, markas Departemen Pertahanan AS. Perluasan itu menjadi titik gesekan antara kebijakan perusahaan dan prinsip etika yang diklaim Google.
Andreas Krisch, peneliti AI lain di Google DeepMind, mengundurkan diri awal bulan ini karena alasan serupa. Ia menilai tata kelola dan pengawasan Google belum memadai untuk menerapkan AI secara aman dan bertanggung jawab di lingkungan operasi militer yang bersifat rahasia.
"Google tampaknya tidak memiliki hak untuk mengendalikan atau memveto cara Pentagon menggunakan AI mereka. Google juga tampaknya memiliki akses informasi yang terbatas mengenai bagaimana teknologi tersebut diterapkan," jelas Krisch.
Krisch juga menyoroti kesiapan sistem AI Google untuk mengembangkan kecerdasan super di masa depan. Menurutnya, pengawasan yang ada belum cukup untuk menjamin keamanan teknologi pada level tersebut.
Tekanan Internal dan Kekhawatiran Tindakan Balasan
Sejumlah karyawan Google mengaku takut berbicara terbuka soal keselamatan AI dan penggunaannya dalam peperangan. Kontrak kerja mereka disebut melarang kritik terbuka terhadap perusahaan.
Ligouri tetap menyampaikan kritiknya meski terikat aturan tersebut. Baginya, membicarakan fakta bukan tindakan mengkritik, dan publik perlu mengetahui apa yang terjadi di dalam perusahaan.
"Pada prinsipnya, saya tidak diizinkan untuk mengkritik Google seumur hidup saya. Karena saya percaya hal-hal seperti ini perlu diketahui. Saya juga berpikir bahwa membicarakan fakta bukanlah tindakan mengkritik," tutur Ligouri.
Ia menyebut rekan-rekannya khawatir mendapat tindakan balasan dan mempertaruhkan karier. Mereka merasa diawasi sehingga tidak leluasa bersuara terbuka.
Respons Google
Juru bicara Google menyatakan perusahaan bekerja sama dengan organisasi sektor publik di seluruh dunia dan mengikuti proses konsisten dalam meninjau maupun menjalin kontrak. Proses itu mencakup kepatuhan terhadap kebijakan penggunaan yang dapat diterima dan prinsip AI perusahaan.
"Kami juga memiliki saluran khusus bagi karyawan untuk menyampaikan kekhawatiran dengan aman, mulai dari masalah etika bisnis hingga pelanggaran. Kami juga menerapkan kebijakan tempat kerja yang ketat untuk mencegah segala bentuk tindakan balasan terhadap karyawan," kata juru bicara Google kepada BBC.
Kasus dua peneliti DeepMind ini menambah tekanan publik terhadap cara perusahaan teknologi besar menyeimbangkan kontrak pertahanan dengan komitmen etika AI. Bagi pengguna dan pelaku industri, perdebatan soal batas penggunaan AI dalam operasi militer akan terus menjadi sorotan, terutama saat laboratorium AI kian dekat dengan pemerintah dan sektor pertahanan.
