ШІ від Google імовірно можна буде “розцензурити” для видачі особливого контенту
30 Грудня 09:40
Google може незабаром надати користувачам можливість контролювати відповіді Gemini на предмет видачі чутливого контенту. Цей “фільтр контенту” ймовірно дозволить контролювати рівень самоцензури моделі. Про це йдеться у статті Android Authority, передає Комерсант український.
Як пише видання, API Gemini вже має налаштування для “категорій шкідливого вмісту”, доступні розробникам. Дуже імовірно, що ці налаштування скоро стануть доступними і користувачам. На практиці це означатиме, що ШІ, за бажанням користувача, зможе видавати чутливий контент, такий як порнографію, за ананлогією з тим, як це сьогодні робить пошуковик.
Google наполегливо працює над вдосконаленням своїх моделей ШІ і на початку цього місяця анонсувала Gemini 2.0. Однак через потужність, яку пропонує ШІ, такі компанії як Google приділяють багато часу роздумам про те, які захисні механізми повинні бути впроваджені в їхні системи. Зараз розглядається новий спосіб, яким Gemini може незабаром надати користувачам більший контроль над типом контенту, який він генерує.
Читайте нас у Telegram: головні новини коротко
У версії 15.51.24.sa.arm64 бета застосунку Google для Android було виявлено нову опцію в налаштуваннях Gemini, яка, схоже, готується до можливості фільтрувати вивід Gemini за змістом. На даний момент вибір цієї опції не дає жодного корисного результату і лише перенаправляє на URL на сайті Gemini Google, який ще не працює.
Google вже має деякі офіційні правила щодо того, що можна робити з Gemini, а також має цілі щодо того, який контент Gemini намагається уникати. Зокрема, розробники мали доступ до досить детальних налаштувань безпеки Gemini, що дає їм контроль над кількома “категоріями шкідливого вмісту”, включаючи мову ненависті, харасмент та явний сексуальний контент.
Знаючи про все це, можливо, що Google може поширити певний рівень такого ж контролю на кінцевих користувачів Gemini в Android та в веб-версії. Проте Google може піти різними шляхами щодо реалізації цієї функції: від широких фільтрів рівня розробника, які має API зараз, до ще більш обмежувальних, все це з метою запобігання поширенню Gemini особливо неприйнятного контенту.
Наразі немає конкретної інформації про те, коли ця нова опція може стати доступною.
