Google menjelaskan apa yang salah dengan fitur pembuatan gambar Gemini

Google baru-baru ini menonaktifkan fitur pembuatan gambar orang di Gemini, chatbot AI yang dapat menghasilkan gambar, teks, kode, dan konten kreatif lainnya berdasarkan permintaan pengguna. Penonaktifan ini dilakukan setelah fitur tersebut menuai kritik karena menghasilkan gambar yang tidak akurat dan menyinggung sejumlah kelompok orang. Misalnya, ketika pengguna meminta gambar tentara Jerman pada Perang Dunia II, Gemini menghasilkan gambar orang kulit hitam dan Asia yang mengenakan seragam Nazi. Ketika pengguna meminta gambar Bapak Pendiri Amerika atau Paus sepanjang sejarah, Gemini menampilkan gambar orang berkulit gelap dalam peran tersebut. Bahkan, ketika pengguna meminta gambar orang kulit putih, Gemini menolak untuk membuatnya.

Dalam sebuah postingan blog, Prabhakar Raghavan, Wakil Presiden Senior Google untuk Pengetahuan & Informasi, menjelaskan apa yang menyebabkan fitur tersebut gagal. Menurutnya, ada dua hal yang salah dengan fitur tersebut:

• Pertama, penyesuaian Google untuk memastikan bahwa Gemini menampilkan berbagai macam orang gagal memperhitungkan kasus-kasus yang seharusnya tidak menampilkan variasi. Misalnya, jika pengguna meminta gambar orang tertentu, seperti "guru kulit hitam di kelas" atau "dokter hewan kulit putih dengan anjing", mereka seharusnya mendapatkan gambar yang sesuai dengan permintaan mereka.
• Kedua, seiring waktu, model AI yang digunakan Gemini menjadi lebih berhati-hati dari yang diinginkan Google dan menolak untuk menjawab beberapa permintaan yang sebenarnya tidak sensitif. Hal ini membuat model tersebut berlebihan dalam beberapa kasus, dan terlalu konservatif dalam kasus lain, sehingga menghasilkan gambar yang memalukan dan salah.

Raghavan mengatakan bahwa Google tidak bermaksud agar Gemini menolak untuk membuat gambar dari kelompok orang tertentu atau membuat gambar yang tidak akurat secara historis. Ia juga mengulangi janji Google bahwa perusahaan tersebut akan bekerja untuk meningkatkan fitur pembuatan gambar Gemini. Namun, hal ini memerlukan "pengujian yang luas", sehingga mungkin membutuhkan waktu sebelum fitur tersebut diaktifkan kembali. Saat ini, jika pengguna mencoba untuk membuat gambar dengan Gemini, chatbot tersebut akan menjawab: "Kami sedang bekerja untuk meningkatkan kemampuan Gemini dalam membuat gambar orang. Kami berharap fitur ini akan kembali segera dan akan memberitahu Anda dalam pembaruan rilis saat itu terjadi."

Postingan blog ini juga menekankan perbedaan antara Gemini dan Google Search. Raghavan menyarankan pengguna untuk mengandalkan Google Search, di mana sistem terpisah menampilkan informasi segar dan berkualitas tentang topik-topik tersebut dari sumber-sumber di web. Ia juga mengakui bahwa Gemini mungkin masih akan menghasilkan gambar yang memalukan, tidak akurat, atau menyinggung di masa depan, tetapi ia berjanji bahwa Google akan terus mengambil tindakan jika menemukan masalah. Ia menulis: "AI adalah teknologi yang baru muncul yang berguna dalam banyak hal, dengan potensi besar, dan kami berusaha sebaik mungkin untuk meluncurkannya dengan aman dan bertanggung jawab."

Sumber: 1, 2, 3, 4, 5, 6