Paris Call dan UU RAISE New York, Aturan Keamanan AI Makin Ketat

Highlights

Paris Call for AI Safety and Security disepakati 9 November 2026 di Istana Élysée.
Enam negara dan sepuluh perusahaan AI, termasuk OpenAI, Anthropic, Microsoft, dan Mistral, ikut serta.
Google, Meta, Amerika Serikat, dan China tidak termasuk penanda tangan.
New York membuka portal pendaftaran UU RAISE pada 10 November, wajib bagi pengembang dengan pendapatan di atas US$500 juta.
Denda UU RAISE hingga US$1 juta untuk pelanggaran pertama dan US$3 juta untuk pelanggaran berikutnya.

Dua langkah pengaturan AI muncul dalam dua hari berturut-turut. Di Paris, sejumlah negara dan perusahaan AI meneken deklarasi keamanan AI, sementara negara bagian New York mulai menjalankan undang-undang yang mewajibkan pengembang AI besar mendaftar.

Keduanya menyasar perusahaan yang sama, yaitu pengembang model AI terdepan seperti OpenAI dan Anthropic. Bedanya, Paris Call bersifat sukarela tanpa sanksi, sedangkan UU RAISE di New York punya kewajiban dan denda.

Jawaban cepat: Paris Call for AI Safety and Security disepakati 9 November 2026 oleh enam negara dan sepuluh perusahaan AI, termasuk OpenAI dan Anthropic, tanpa tenggat dan sanksi. Sehari kemudian, New York membuka pendaftaran UU RAISE yang mewajibkan pengembang AI berpendapatan di atas US$500 juta mendaftar paling lambat 1 Januari 2027, dengan denda hingga US$3 juta.

Isi Paris Call for AI Safety and Security

Deklarasi ini disepakati pada 9 November 2026 dalam pertemuan yang dipimpin Presiden Prancis Emmanuel Macron di Istana Élysée, bertepatan dengan hari pertama Paris Peace Forum. The Next Web melaporkan sekitar 50 orang bergabung lewat video, termasuk Sam Altman dari OpenAI, Dario Amodei dari Anthropic, dan Presiden Microsoft Brad Smith.

Penandatangan berkomitmen menyiapkan mekanisme pengaman yang bisa mematikan model AI, termasuk saat pelatihan dan penggunaan internal. Mereka juga sepakat memberi informasi lebih jelas soal kemampuan dan batas sistem, membuka pengujian oleh pakar independen bila sesuai, menerbitkan hasil uji yang tidak sensitif dalam format bersama, berbagi peringatan dini soal insiden serius, dan menyediakan saluran aman bagi pelapor pelanggaran.

Kelompok	Penanda tangan
Negara	Prancis, Kanada, Finlandia, Norwegia, Belanda, Bahrain
Perusahaan AI	OpenAI, Anthropic, Microsoft, Mistral, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI, Synthesia
Tidak ikut	Amerika Serikat, China, Google, Meta

Sumber: The Next Web, 10 November 2026. Indonesia tidak tercantum sebagai penanda tangan.

Kritik: Tanpa Tenggat dan Ambang Risiko

Paris Call tidak menetapkan tenggat waktu. Kerangka pengujian bersama yang dijanjikan juga belum disusun. Deklarasi ini pun tidak menetapkan ambang risiko bersama untuk memutuskan apakah sebuah model boleh dikembangkan atau dirilis.

Lembaga keamanan AI asal Prancis, CeSIA, ikut menandatangani tetapi tetap mengkritik. CeSIA menilai deklarasi ini tidak menjamin penguji independen atau pemerintah mendapat akses ke sistem yang mereka perlukan. Lembaga itu ingin pemerintah punya wewenang menangguhkan model ketika risikonya terlalu tinggi.

Direktur eksekutif CeSIA, Charbel-Raphaël Ségerie, menegaskan keputusan semacam itu harus berada di tangan otoritas publik. Macron sendiri, dalam acara terpisah soal anak dan AI, menyatakan akan mendorong pra-sertifikasi semua solusi AI, mirip uji keamanan mainan.

UU RAISE New York Mulai Berjalan

Di Amerika Serikat, negara bagian New York membuka portal pendaftaran UU RAISE pada 10 November 2026. TechCrunch melaporkan bahwa pengembang AI terdepan berskala besar wajib mendaftar paling lambat 1 Januari 2027, saat aturan ini mulai berlaku.

Yang dimaksud pengembang besar adalah perusahaan dengan pendapatan tahunan lebih dari US$500 juta, sekitar Rp9 triliun. Mereka wajib menerbitkan kerangka keselamatan di situs web, melaporkan insiden keselamatan kritis dalam 72 jam, dan menerbitkan laporan transparansi model.

Pelaksananya adalah Office of Digital Innovation, Governance, Integrity, and Trust atau DIGIT. Gubernur Kathy Hochul juga meresmikan New York Center for AI Responsibility and Research di SUNY Binghamton, yang akan mengevaluasi sistem AI secara independen dan membantu DIGIT meninjau kerangka keselamatan perusahaan.

Ketentuan UU RAISE	Rincian
Wajib bagi	Pengembang AI dengan pendapatan tahunan di atas US$500 juta
Batas pendaftaran	1 Januari 2027
Laporan insiden kritis	Dalam 72 jam
Denda	Hingga US$1 juta (pelanggaran pertama), US$3 juta (berikutnya)
Pelaksana	Kantor DIGIT New York

Sumber: TechCrunch, 10 November 2026. Kurs Rp18.012 per dolar AS.

Dampaknya bagi Pengembang dan Pengguna AI

UU RAISE menyusul aturan California SB 53 yang berlaku sejak Januari dan mewajibkan laporan insiden dalam 15 hari. Dengan tambahan New York, dua negara bagian besar AS kini menuntut kerangka keselamatan tertulis dari pengembang AI besar.

Bagi pengguna di luar AS, termasuk Indonesia, aturan ini berdampak tidak langsung. Model yang dipakai sehari-hari, seperti ChatGPT dan Claude, dibuat oleh perusahaan yang kini wajib mempublikasikan kerangka keselamatan dan laporan transparansi. Dokumen publik semacam itu bisa menjadi rujukan regulator di negara lain.

Absennya Amerika Serikat, China, Google, dan Meta dari Paris Call menunjukkan kesepakatan global soal keamanan AI masih jauh. Untuk saat ini, aturan yang mengikat justru datang dari tingkat negara bagian.

FAQ

1. Apa itu Paris Call for AI Safety and Security?

Deklarasi keamanan AI yang disepakati 9 November 2026 di Istana Élysée oleh enam negara dan sepuluh perusahaan AI. Deklarasi ini tidak punya tenggat dan sanksi.

2. Siapa saja yang tidak menandatangani Paris Call?

Amerika Serikat, China, Google, dan Meta tidak termasuk penanda tangan.

3. Apa itu UU RAISE New York?

Undang-undang yang mewajibkan pengembang AI berpendapatan di atas US$500 juta menerbitkan kerangka keselamatan, melaporkan insiden kritis dalam 72 jam, dan menerbitkan laporan transparansi.

4. Kapan UU RAISE berlaku?

Pendaftaran dibuka 10 November 2026 dan wajib selesai paling lambat 1 Januari 2027, saat aturan mulai berlaku.

5. Berapa denda pelanggaran UU RAISE?

Hingga US$1 juta untuk pelanggaran pertama dan US$3 juta untuk pelanggaran berikutnya.

Kesimpulan

Paris Call dan UU RAISE memperlihatkan dua jalur pengaturan AI. Jalur pertama mengandalkan komitmen sukarela lintas negara, sedangkan jalur kedua memakai kewajiban hukum dengan denda.

Perusahaan seperti OpenAI dan Anthropic kini berada di bawah keduanya, dan pelaksanaan UU RAISE mulai Januari 2027 akan menjadi ujian pertama.