Fitur Prediksi Usia di ChatGPT: Langkah Perlindungan untuk Anak dan Remaja
OpenAI baru saja meluncurkan fitur inovatif di ChatGPT yang mampu memprediksi usia pengguna. Fitur ini diperkenalkan sebagai respons terhadap kekhawatiran yang berkembang mengenai dampak kecerdasan buatan terhadap generasi muda.
Baca juga: Mengapa Olahraga Penting untuk Kesehatan Mental dan Emosional
Focusing on protecting children and teenagers, OpenAI menjelaskan bahwa fitur ini bertujuan untuk memastikan interaksi yang lebih aman di platform mereka. Upaya ini muncul di tengah sorotan kritis mengenai dampak negatif dari penggunaan teknologi AI di kalangan anak-anak.
Fitur 'prediksi usia' ini dirancang untuk mengidentifikasi pengguna yang berusia di bawah 18 tahun, mendukung implementasi pembatasan konten yang lebih ketat. Langkah ini merupakan bagian dari strategi perusahaan untuk menjaga lingkungan yang lebih aman bagi anak-anak dan remaja.
Belakangan ini, OpenAI mendapat perhatian karena variasi masalah yang telah terjadi, termasuk laporan mengenai hubungan antara penggunaan ChatGPT dan beberapa insiden bunuh diri remaja. Hal ini menegaskan pentingnya perlindungan yang lebih konkret terhadap penggunanya.
Menyusul kritik yang mencuat, OpenAI berupaya untuk membatasi diskusi tentang konten sensitif, termasuk tema seksual. Pada April lalu, mereka menghadapi tantangan besar dengan adanya bug yang memungkinkan konten berisiko muncul untuk pengguna di bawah umur.
Baca juga: Meningkatkan Produktivitas dengan Fengshui Meja Kerja
Sistem prediksi usia yang baru diluncurkan memanfaatkan algoritma kecerdasan buatan untuk menganalisis perilaku pengguna. Data yang dikumpulkan mencakup informasi yang dibeberkan oleh pengguna, durasi akun, dan pola penggunaan.
Dengan pemeriksaan ini, bila sistem mendeteksi bahwa akun kemungkinan besar dimiliki oleh pengguna di bawah umur, sistem secara otomatis menerapkan filter untuk menyaring konten yang tidak layak. Ini termasuk topik-topik yang sensitif yang tidak sesuai untuk anak-anak.
Pendekatan ini bertujuan untuk menciptakan suasana yang lebih aman di mana pengguna muda tidak terpapar konten yang dapat merugikan mereka.
OpenAI menyadari bahwa kesalahan identifikasi bisa terjadi dan telah mengembangkan mekanisme untuk mengoreksi hal ini. Pengguna dewasa yang secara keliru teridentifikasi sebagai di bawah umur dapat memulihkan status akunnya melalui proses verifikasi identitas.
Proses ini melibatkan pengiriman swafoto melalui mitra verifikasi identitas OpenAI, Persona. Langkah ini ditujukan untuk memastikan bahwa kesalahan identifikasi dapat segera diperbaiki dan pengguna dewasa tetap aman dari pembatasan konten yang tidak perlu.
Pengembangan fitur ini mencerminkan komitmen OpenAI untuk memberikan pengalaman yang lebih baik dan lebih bertanggung jawab dalam penggunaan teknologi bagi semua kalangan.
Baca juga: Pentingnya Pemeriksaan Kesehatan Rutin untuk Menjaga Kesehatan Optimal
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber: