Jakarta, 1 April 2025 – Sebuah database yang tidak terproteksi milik perusahaan AI, GenNomis, telah terungkap dan mengungkapkan ribuan gambar eksplisit. Penemuan ini dilakukan oleh peneliti keamanan Jeremiah Fowler, yang menemukan bahwa database tersebut berisi lebih dari 95.000 gambar yang dihasilkan oleh AI, termasuk materi penyalahgunaan anak dan gambar selebriti yang dibuat lebih muda.
Fowler melaporkan bahwa database berukuran 45GB ini tidak memiliki kata sandi atau enkripsi dan ditemukan pada awal bulan Maret. Setelah menghubungi GenNomis dan AI-Nomis untuk memberi tahu mereka tentang adanya materi penyalahgunaan anak dalam data tersebut, GenNomis segera menutup akses ke database. Namun, mereka tidak memberikan tanggapan atau menghubungi Fowler mengenai temuan ini.
Sebelum dihapus, situs web GenNomis menawarkan berbagai alat AI, termasuk generator gambar yang memungkinkan pengguna untuk memasukkan permintaan gambar yang ingin mereka buat atau mengunggah gambar dan menambahkan permintaan untuk mengubahnya. Saat itu aktif, situs GenNomis mengizinkan konten eksplisit, termasuk gambar seksual wanita, galeri NSFW, dan 'pasar' untuk berbagi dan berpotensi menjual foto yang dihasilkan oleh AI. Tagline situs web menyatakan bahwa orang dapat "menghasilkan gambar tanpa batas."
Jeremiah Fowler mengungkapkan, "Sepertinya teknologi ini telah melampaui pedoman atau kontrol yang ada. Dari sudut pandang hukum, kita semua tahu bahwa gambar eksplisit anak adalah ilegal, tetapi itu tidak menghentikan teknologi untuk dapat menghasilkan gambar-gambar tersebut."
Kasus ini menyoroti risiko dan tantangan yang terkait dengan penggunaan alat generasi gambar AI, terutama dalam hal etika dan keamanan. Penggunaan teknologi ini bisa disalahgunakan untuk menciptakan konten yang berbahaya dan tidak konsensual, baik bagi orang dewasa maupun anak-anak. Kejadian ini menunjukkan perlunya regulasi yang lebih ketat untuk mengawasi penggunaan teknologi canggih ini, demi melindungi masyarakat dari potensi bahaya yang mungkin ditimbulkan.
database AI GenNomis gambar eksplisit keamanan