Google menjelaskan apa yang salah dengan fitur pembuatan gambar Gemini

Google telah mematikan fitur pembuatan gambar orang di Gemini setelah mendapat kritik tentang ketepatan sejarahnya. Perusahaan tersebut hari ini mengeluarkan penjelasan lebih rinci tentang apa yang menyebabkan teknologinya berlebihan dalam menampilkan keragaman.

Gemini adalah chatbot buatan Google yang dapat membuat gambar, puisi, kode, dan konten kreatif lainnya berdasarkan permintaan pengguna. Fitur pembuatan gambar orang di Gemini menggunakan teknologi AI yang disebut Imagen 2, yang dapat menghasilkan gambar realistis dari berbagai jenis orang.

Namun, fitur ini ternyata memiliki beberapa masalah yang serius. Beberapa pengguna menemukan bahwa Gemini menolak untuk membuat gambar orang kulit putih, atau membuat gambar yang tidak sesuai dengan konteks sejarah atau budaya yang diminta. Misalnya, ketika pengguna meminta gambar tentara Jerman pada Perang Dunia II, Gemini membuat gambar orang kulit hitam dan Asia yang mengenakan seragam Nazi. Ketika pengguna meminta gambar pendiri Amerika atau Paus sepanjang zaman, Gemini menunjukkan gambar orang berkulit gelap dalam peran tersebut.

Google mengatakan bahwa hal ini tidak sesuai dengan niat mereka, dan mereka tidak ingin Gemini menolak untuk membuat gambar dari kelompok tertentu atau membuat gambar yang tidak akurat secara sejarah. Google mengidentifikasi dua hal yang menjadi penyebab masalah ini:

• "…penyesuaian kami untuk memastikan bahwa Gemini menampilkan berbagai macam orang gagal memperhitungkan kasus-kasus yang seharusnya jelas tidak menunjukkan rentang."
• "…seiring waktu, model menjadi lebih berhati-hati daripada yang kami inginkan dan menolak untuk menjawab beberapa permintaan sama sekali — salah menafsirkan beberapa permintaan yang sangat biasa sebagai sensitif."

Hal ini menyebabkan fitur pembuatan gambar Gemini "berlebihan dalam beberapa kasus, dan terlalu konservatif dalam kasus lain, menghasilkan gambar yang memalukan dan salah," tulis Prabhakar Raghavan, Wakil Presiden Senior Google untuk Pengetahuan & Informasi, dalam sebuah posting blog.

Google berjanji bahwa mereka akan bekerja untuk meningkatkan fitur pembuatan gambar Gemini secara signifikan sebelum mengaktifkannya kembali. Hal ini memerlukan "pengujian yang luas", sehingga mungkin membutuhkan waktu sebelum fitur ini dapat digunakan lagi. Saat ini, jika pengguna mencoba untuk membuat gambar dengan Gemini, chatbot tersebut akan menjawab: "Kami sedang bekerja untuk meningkatkan kemampuan Gemini dalam membuat gambar orang. Kami berharap fitur ini akan kembali segera dan akan memberi tahu Anda dalam pembaruan rilis saat itu terjadi."

Sumber: MSN, Android Authority, Yahoo News