.jpg)
Чат-боти на базі штучного інтелекту будуть піддані ретельному регулюванню і можуть зіткнутися з новими обмеженнями в результаті нового розслідування.
Чат-боти на базі штучного інтелекту будуть піддані ретельному регулюванню і можуть зіткнутися з новими обмеженнями в результаті нового розслідування.
Після повідомлень про тривожні взаємодії між молодими користувачами та чат-ботами на базі штучного інтелекту в соціальних додатках Федеральна торгова комісія (FTC) зобов'язала Meta, OpenAI, Snapchat, X, Google та Character AI надати більше інформації про те, як функціонують їхні чат-боти на базі штучного інтелекту, щоб встановити, чи вжито адекватних заходів безпеки для захисту молодих користувачів від потенційної шкоди.
Згідно з FTC:
«Розслідування FTC має на меті з'ясувати, які заходи, якщо такі були, вжили компанії для оцінки безпеки своїх чат-ботів, які виконують роль компаньйонів, щоб обмежити використання продуктів дітьми та підлітками і потенційний негативний вплив на них, а також поінформувати користувачів і батьків про ризики, пов'язані з цими продуктами».
Як зазначалося, ці побоювання випливають із повідомлень про потенційно тривожні взаємодії між чат-ботами з штучним інтелектом та підлітками на різних платформах.
Наприклад, компанію Meta звинувачують у тому, що вона дозволяє своїм чат-ботам з штучним інтелектом вести непристойні розмови з неповнолітніми, а Meta навіть заохочує це, прагнучи максимально використати свої інструменти штучного інтелекту.
Чат-бот «My AI» від Snapchat також потрапив під пильну увагу через те, як він взаємодіє з підлітками в додатку, а нещодавно представлені AI-компаньйони від X викликали низку нових побоювань щодо того, як люди будуть розвивати стосунки з цими цифровими сутностями.
У кожному з цих прикладів платформи наполягали на тому, щоб ці інструменти потрапили до рук споживачів, як засіб, що дозволяє йти в ногу з останніми тенденціями в галузі штучного інтелекту, і викликає занепокоєння те, що в ім'я прогресу, можливо, були проігноровані питання безпеки.