Anthropic menyatakan tidak akan mengubah pendiriannya terkait perbedaan pendapat dengan Departemen Pertahanan Amerika Serikat (AS) mengenai pemanfaatan teknologi kecerdasan buatan (AI) milik mereka. Dario Amodei, CEO Anthropic, mengungkapkan bahwa perusahaannya lebih memilih untuk tidak bekerja sama dengan Pentagon daripada menyetujui penggunaan teknologi yang berpotensi menimbulkan kerugian.
Penolakan ini muncul setelah Menteri Pertahanan AS, Pete Hegseth, menuntut agar Anthropic menyetujui segala bentuk penggunaan yang dianggap sah atas teknologi mereka. Pertemuan tersebut diakhiri dengan ancaman mengeluarkan Anthropic dari rantai pasokan Pentagon, bahkan memicu kemarahan Presiden AS saat itu, Donald Trump.
"Ancaman-ancaman ini tidak mengubah posisi kami, hati nurani kami tidak membenarkan untuk menuruti permintaan mereka," kata Amodei, seperti dikutip dari BBC.
Hal yang menjadi kekhawatiran utama bagi Anthropic adalah potensi penyalahgunaan AI, seperti Claude, untuk kegiatan pengawasan massal di dalam negeri dan pengembangan senjata otonom. Amodei menegaskan bahwa penggunaan semacam itu tidak pernah termasuk dalam perjanjian kerja sama dengan Departemen Pertahanan.
Amodei menambahkan, "Jika Departemen tersebut memilih berhenti menggunakan Anthropic, kami akan bekerja sama untuk memastikan kelancaran transisi ke penyedia lain."
Seorang juru bicara Anthropic menambahkan bahwa meskipun perusahaan telah menerima draf kontrak yang diperbarui, draf tersebut dinilai tidak menunjukkan kemajuan signifikan dalam mencegah penggunaan Claude untuk pengawasan massal atau pengembangan senjata otonom penuh. "Bahasa baru yang dibingkai sebagai kompromi dipasangkan dengan bahasa hukum yang memungkinkan perlindungan tersebut diabaikan sesuka hati," sebutnya.
Wakil Menteri Pertahanan AS, Emil Michael, mengkritik Amodei dengan menyatakan, "Pada tingkat tertentu, Anda harus memercayai militer Anda untuk melakukan hal yang benar."
Meskipun penggunaan AI untuk tujuan yang dikhawatirkan Anthropic sebenarnya telah dilarang oleh hukum dan kebijakan Pentagon, Michael menjelaskan mengapa Pentagon tidak menyetujui bahasa kontrak yang diajukan Anthropic. Menurutnya, "Kita harus bersiap menghadapi apa yang sedang dilakukan China."
Pejabat Pentagon sebelumnya mengindikasikan bahwa jika Anthropic tidak patuh, Hegseth akan memberlakukan UU Produksi Pertahanan. Undang-undang ini memberikan wewenang kepada presiden AS untuk menganggap suatu perusahaan atau produknya sangat penting sehingga pemerintah dapat mewajibkannya memenuhi kebutuhan pertahanan.
Amodei menyatakan, "Kami mendukung penggunaan AI untuk misi intelijen dan kontraintelijen asing yang sah. Namun menggunakan sistem ini untuk pengawasan domestik massal tidak sejalan dengan nilai-nilai demokrasi."
Mengenai penggunaan AI dalam persenjataan, Amodei berpendapat bahwa sistem AI tercanggih saat ini pun belum cukup andal untuk mengendalikan senjata otonom sepenuhnya.
"Kami takkan dengan sengaja menyediakan produk yang membahayakan para prajurit dan warga sipil Amerika. Tanpa pengawasan tepat, senjata otonom penuh tidak dapat diandalkan untuk menerapkan penilaian kritis yang ditunjukkan oleh pasukan profesional kita yang sangat terlatih setiap harinya. Senjata-senjata tersebut perlu dikerahkan dengan batasan keamanan layak, yang belum ada saat ini," paparnya.
