Raksasa kecerdasan buatan, OpenAI, baru saja mengumumkan kesepakatan penting dengan Departemen Pertahanan Amerika Serikat (Pentagon). CEO OpenAI, Sam Altman, menegaskan bahwa teknologi AI mereka tidak akan disalahgunakan untuk pengawasan massal domestik atau sistem senjata otonom yang bisa beraksi tanpa kendali manusia. Kesepakatan ini tercapai setelah Pentagon menunjukkan komitmen kuatnya terhadap isu keselamatan, memastikan bahwa manusia tetap memegang kendali penuh dalam penggunaan kekuatan.
Langkah OpenAI ini menarik perhatian publik, terutama setelah kontraktor Pentagon sebelumnya, Anthropic, menolak tegas permintaan Pentagon. Anthropic menolak menggunakan teknologi AI-nya untuk pengawasan massal dan senjata otonom, beralasan etika. Mantan Presiden AS Donald Trump bahkan memerintahkan penghentian penggunaan teknologi Anthropic oleh lembaga federal, melabeli mereka 'kiri radikal'. Namun, Pentagon diberi waktu enam bulan untuk transisi dari sistem Anthropic yang sudah terintegrasi.
Polemik etika AI di sektor militer memang sedang memanas. Laporan menyebutkan, teknologi Claude AI milik Anthropic bahkan diduga digunakan militer AS dalam upaya penculikan Presiden Venezuela Nicolas Maduro pada Januari lalu. Kekhawatiran global makin mencuat dengan laporan dari pegiat HAM yang menyoroti penggunaan sistem AI oleh militer, termasuk tentara Israel di Gaza. AI seperti 'Lavender', 'The Gospel', dan 'Where's Daddy?' diduga kuat digunakan untuk memproses data pengawasan dan menghasilkan daftar target.
Kesepakatan OpenAI dengan Pentagon ini bisa menjadi preseden penting dalam upaya menyeimbangkan inovasi teknologi canggih dengan batasan etika yang ketat, terutama di ranah pertahanan. Ini menegaskan bahwa perusahaan teknologi pun punya peran krusial dalam menetapkan standar moral untuk mencegah penyalahgunaan AI yang berpotensi membawa dampak mengerikan bagi kemanusiaan.