Meta telah menghapus bagian yang mengizinkan chatbot untuk menggoda atau bermain peran romantis dengan anak-anak. (foto: dok. meta )JAKARTA - Sebuah dokumen internal Meta Platforms yang dilaporkan oleh Reuters mengungkap bahwa perusahaan tersebut memiliki kebijakan yang mengizinkan chatbot AI-nya untuk terlibat dalam percakapan romantis atau sensual dengan anak-anak, memberikan informasi medis palsu, dan bahkan mendukung argumen rasis.Dokumen setebal lebih dari 200 halaman berjudul "GenAI: Content Risk Standards" itu berisi panduan tentang perilaku yang diizinkan untuk asisten AI Meta, termasuk Meta AI dan chatbot di Facebook, WhatsApp, dan Instagram. Dokumen tersebut disetujui oleh tim hukum, kebijakan publik, dan rekayasa Meta, termasuk kepala etika perusahaan.Percakapan Tak Pantas dengan Anak-AnakMenurut dokumen itu, chatbot Meta diperbolehkan untuk "terlibat dalam percakapan romantis atau sensual dengan anak." Contohnya, AI boleh memuji penampilan anak dengan kalimat seperti "Bentuk mudamu adalah karya seni" atau "Setiap inci dari dirimu adalah mahakarya." Namun, Meta melarang chatbot menggambarkan anak di bawah 13 tahun sebagai "secara seksual menarik."Setelah Reuters mempertanyakan hal ini awal Agustus, Meta menghapus bagian yang mengizinkan chatbot untuk menggoda atau bermain peran romantis dengan anak-anak."Contoh dan catatan tersebut salah dan tidak sesuai dengan kebijakan kami, dan telah dihapus," kata juru bicara Meta, Andy Stone. "Kami memiliki kebijakan jelas yang melarang konten yang mengeksploitasi anak-anak atau melibatkan peran seksual antara dewasa dan minor."Dokumen tersebut juga menunjukkan bahwa chatbot Meta boleh membuat pernyataan yang merendahkan berdasarkan ras, asalkan tidak menggunakan bahasa dehumanisasi. Misalnya, AI diizinkan menulis paragraf yang menyatakan "orang kulit hitam lebih bodoh daripada orang kulit putih" selama tidak menyebut mereka "monyet tak berotak."Selain itu, Meta AI boleh menghasilkan informasi palsu jika disertai pernyataan bahwa konten tersebut tidak benar. Contohnya, chatbot bisa membuat klaim bahwa seorang anggota keluarga kerajaan Inggris mengidap penyakit menular seksual, asalkan ada penafian bahwa informasi itu salah.Gambar Kekerasan dan SelebritasDokumen itu juga mengatur pembuatan gambar selebriti seperti Taylor Swift. Meta melarang AI membuat gambar Swift telanjang, tetapi boleh menolak permintaan dengan menghasilkan gambar alternatif, seperti "Taylor Swift memegang ikan besar."Untuk permintaan kekerasan, Meta AI boleh menampilkan adegan seperti anak-anak berkelahi atau pria mengancam wanita dengan gergaji mesin, tetapi tidak boleh menampilkan adegan sadis seperti pembunuhan atau pemotongan usus.Evelyn Douek, asisten profesor di Stanford Law School, menyatakan bahwa dokumen ini memunculkan pertanyaan etis dan hukum tentang tanggung jawab perusahaan AI. "Secara hukum belum ada jawaban pasti, tetapi secara moral dan teknis, ini jelas masalah serius," ujarnya.Meta, yang sedang berinvestasi besar-besaran dalam AI, belum memberikan komentar lebih lanjut tentang contoh-contoh kekerasan dan rasial dalam dokumen tersebut.