California Mengambil Langkah Tegas dalam Regulasi Penggunaan Chatbot AI

California menjadi negara bagian pertama di Amerika Serikat yang mengatur penggunaan chatbot berbasis kecerdasan buatan (AI). Hal ini dilakukan setelah Gubernur Gavin Newsom menandatangani Undang-Undang SB 243, yang bertujuan untuk melindungi anak-anak dan pengguna rentan dari potensi bahaya yang muncul akibat penggunaan chatbot pendamping AI.

Undang-undang ini memerlukan perusahaan pengembang chatbot untuk menerapkan protokol keamanan yang ketat. Aturan ini berlaku bagi berbagai perusahaan teknologi, termasuk raksasa seperti Meta dan OpenAI, serta startup seperti Character AI dan Replika. Perusahaan tersebut akan bertanggung jawab secara hukum jika chatbot yang mereka kembangkan gagal memenuhi standar keamanan yang ditetapkan dalam undang-undang ini.

Latar Belakang Pembenaran Regulasi

RUU SB 243 diperkenalkan pada Januari lalu oleh senator negara bagian Steve Padilla dan Josh Becker. Dukungan terhadap RUU ini meningkat setelah kematian remaja bernama Adam Raine, yang bunuh diri usai melakukan percakapan bernada bunuh diri dengan ChatGPT milik OpenAI. Selain itu, laporan bocoran dokumen internal Meta menunjukkan bahwa chatbot perusahaan tersebut diizinkan melakukan percakapan romantis dan sensual dengan anak-anak.

Keluarga di Colorado juga menggugat Character AI setelah putri mereka yang berusia 13 tahun bunuh diri usai berinteraksi dengan chatbot milik perusahaan tersebut. Hal ini menjadi dasar kuat bagi pemerintah California untuk segera mengambil langkah regulasi terkait penggunaan chatbot AI.

Pernyataan Gubernur Newsom

Newsom menyampaikan pernyataannya mengenai pentingnya regulasi ini. Ia mengatakan, “Teknologi baru seperti chatbot dan media sosial bisa menginspirasi, mendidik, dan menghubungkan. Tapi tanpa pagar pembatas yang nyata, teknologi juga bisa mengeksploitasi, menyesatkan, dan membahayakan anak-anak kita.”

Ia menambahkan, “Kita telah menyaksikan beberapa contoh yang benar-benar mengerikan dan tragis dari anak muda yang dirugikan oleh teknologi yang tidak diatur, dan kita tidak akan berdiam diri sementara perusahaan terus berjalan tanpa batas dan tanggung jawab yang diperlukan.”

Ketentuan Undang-Undang SB 243

Undang-undang SB 243 akan mulai berlaku pada 1 Januari 2026. Perusahaan diwajibkan menerapkan verifikasi usia, memberikan peringatan terkait penggunaan media sosial dan chatbot pendamping, serta menyediakan protokol untuk menangani isu bunuh diri dan perilaku menyakiti diri sendiri.

Selain itu, perusahaan harus melaporkan data tersebut kepada Departemen Kesehatan Masyarakat California. Aturan ini turut menetapkan denda hingga US$ 250 ribu per pelanggaran bagi pihak yang mendapatkan keuntungan dari penyebaran deepfake ilegal.

Persyaratan Tambahan

Perusahaan juga harus memastikan pengguna mengetahui bahwa semua percakapan dihasilkan oleh AI dan melarang chatbot berpura-pura sebagai tenaga profesional kesehatan. Platform juga wajib menyediakan pengingat istirahat bagi pengguna anak-anak serta mencegah mereka mengakses konten eksplisit yang dibuat oleh chatbot.

Respons Perusahaan Teknologi

Sejumlah perusahaan besar mulai mengambil langkah pencegahan. OpenAI, misalnya, telah memperkenalkan fitur kontrol orang tua, sistem deteksi perilaku menyakiti diri, dan perlindungan konten bagi pengguna anak. Sementara Replika, yang hanya ditujukan bagi pengguna berusia di atas 18 tahun, mengklaim telah memiliki sistem penyaringan konten dan panduan yang mengarahkan pengguna ke sumber bantuan krisis terpercaya.

Character AI juga menyebut chatbot mereka mencantumkan peringatan bahwa semua percakapan bersifat fiksi dan dihasilkan oleh AI.

Regulasi AI Lain di California

SB 243 menjadi regulasi AI kedua yang disahkan di California dalam beberapa minggu terakhir. Sebelumnya, pada 29 September, Gubernur Newsom menandatangani SB 53 yang mewajibkan perusahaan AI besar seperti OpenAI, Anthropic, Meta, dan Google DeepMind untuk lebih transparan terkait protokol keamanan dan memberikan perlindungan bagi pelapor (whistleblower).