Pada akhirnya, Meta memutuskan untuk mengambil langkah tindak yang cukup berat terhadap pengguna remaja di platform Instagram. Melalui pembaruan terbaru, platform milik Meta ini akan memiliki fitur baru yang memungkinkan orang tua untuk memblokir atau membatasi interaksi anak mereka dengan karakter AI di aplikasi tersebut.
Fitur ini merupakan tanggapan dari kekhawatiran publik terkait pengaruh negatif kecerdasan buatan (AI) terhadap kesehatan mental remaja. Dengan demikian, Meta berusaha untuk mencegah anak-anak mengalami stres atau gangguan mental akibat penggunaan chatbot AI secara berlebihan.
Selain itu, langkah ini juga merupakan respons dari tekanan besar yang dihadapi oleh perusahaan teknologi ini. Beberapa gugatan hukum telah diajukan terhadap platform AI terkait dugaan kontribusi terhadap kasus bunuh diri dan gangguan mental pada remaja.
Aplikasi Character.AI digugat karena diduga berperan dalam kasus self-harm dan kematian sejumlah remaja. Sementara itu, OpenAI, pengembang ChatGPT, juga digugat setelah chatbot-nya diduga berkontribusi pada kematian seorang remaja bernama Adam Raine.
Langkah ini memperkuat argumen bahwa AI yang tidak diawasi dapat menimbulkan risiko psikologis serius, terutama pada pengguna yang masih berada dalam tahap perkembangan emosional. Oleh karena itu, Meta berusaha untuk membuat platform yang lebih aman dan ramah bagi remaja.
Dengan demikian, langkah ini merupakan langkah positif dari Meta untuk meningkatkan kesadaran akan pentingnya memantau dan mengawasi pengguna remaja di platform Instagram.
Fitur ini merupakan tanggapan dari kekhawatiran publik terkait pengaruh negatif kecerdasan buatan (AI) terhadap kesehatan mental remaja. Dengan demikian, Meta berusaha untuk mencegah anak-anak mengalami stres atau gangguan mental akibat penggunaan chatbot AI secara berlebihan.
Selain itu, langkah ini juga merupakan respons dari tekanan besar yang dihadapi oleh perusahaan teknologi ini. Beberapa gugatan hukum telah diajukan terhadap platform AI terkait dugaan kontribusi terhadap kasus bunuh diri dan gangguan mental pada remaja.
Aplikasi Character.AI digugat karena diduga berperan dalam kasus self-harm dan kematian sejumlah remaja. Sementara itu, OpenAI, pengembang ChatGPT, juga digugat setelah chatbot-nya diduga berkontribusi pada kematian seorang remaja bernama Adam Raine.
Langkah ini memperkuat argumen bahwa AI yang tidak diawasi dapat menimbulkan risiko psikologis serius, terutama pada pengguna yang masih berada dalam tahap perkembangan emosional. Oleh karena itu, Meta berusaha untuk membuat platform yang lebih aman dan ramah bagi remaja.
Dengan demikian, langkah ini merupakan langkah positif dari Meta untuk meningkatkan kesadaran akan pentingnya memantau dan mengawasi pengguna remaja di platform Instagram.