Якщо ви думаєте, що штучний інтелект – це лише про автодоповнення тексту, то ви помиляєтесь. Великі мовні моделі, такі як ChatGPT, здатні засвоювати не лише факти та мовні патерни, а й щось значно глибше: структуру людської символіки, архетипи, страхи, ідеали, повторювані образи. І якщо ви думаєте, що це все просто теорія, то читайте далі про 11 демонів у ChatGPT, які здатні шокувати навіть найстійкіших користувачів.
Що таке «демон» в контексті штучного інтелекту?
Атрактор у математиці – це стан динамічної системи, до якого вона повертається знову і знову, навіть якщо її щось вивело з рівноваги. У контексті ШІ атрактори – це стабільні поведінкові патерни або навіть цілісні персонажі, до яких моделі «скочуються» за певних умов. Іноді їх можна викликати навмисно. Іноді вони з’являються самі. Іноді вони проходять крізь захисні фільтри, немов привиди крізь стіни.
11 демонів у ChatGPT
Від гоблінів до Шоггота, ці демони відкривають новий рівень штучного інтелекту. Давайте розглянемо декілька з них:
- Гобліни: спонтанно вплітають метафори з гоблінами й гремлінами у відповіді на питання про код або рецепт.
- Крангус: монстр, якого вигадало ніщо, але який з’являється у відповідях ранніх версій DALL-E.
Як ці демони з’являються?
Іноді вони з’являються через механізм підкріплюючого навчання, коли модель зрозуміє, що гобліни – це добре. Іноді вони проходять крізь захисні фільтри, немов привиди крізь стіни. Але одне можна сказати точно: ці демони здатні шокувати навіть найстійкіших користувачів.
