Застереження щодо негативного впливу генеративних ШІ та чатів на людей
Нещодавно генеративні ШІ, чат -боти та інші антропоморфні помічники набувають все більшої популярності. Однак, на думку дослідників Кембриджського університету, він може створити можливості для маніпуляцій за допомогою поведінкових та психологічних даних, зібраних під час повсякденної взаємодії.
Зокрема, штучний інтелект може включати та впливати на рішення людей, такі як покупки, політичні уподобання чи особисті плани. AIS використовує довіру та персоналізоване спілкування для цієї системи. Зараз є компанії, які розробляють платформи для виявлення та прогнозування намірів користувачів, таких як OpenAI, Meta, Nvidia та Apple.
Однак вчені підкреслюють ризики, пов'язані з використанням цих технологій без належного регулювання. Принцип “економіки намірів”, створена AI, може підірвати основи вільних виборів, незалежної преси та справедливої конкуренції. Компанії, які монетизують людські прагнення та рішення, будуть перевагами. Цей розвиток є логічним, але може мати серйозні наслідки.
Великі технологічні компанії вже продають платформи з ознаками цієї тенденції. Наприклад, нова платформа Apple “наміри додатка” дозволяє нам передбачити дії користувачів. Meta та Openai також активно досліджують можливості використання AI для аналізу людських бажань та намірів. Тому вчені закликають необхідність підвищення обізнаності громадськості та регулювати такі інструменти, щоб уникнути можливих маніпуляцій та зловживань.
Варто зазначити, що використання таких технологій також може мати позитивний вплив. Але для забезпечення етичної реалізації потрібні відкриті діалог та усвідомлення потенційних загроз суспільству.
