Чи може ШІ розпізнавати характер людини і чим це небезпечно — дослідження
Чому небезпечно довіряти штучному розуму передбачати поведінку людини, на собі випробував герой Тома Круза у фільмі «Особлива думка».
Людство ще до кінця не розуміє, чого чекати від штучного інтелекту. Але сам цифровий розум вже може дати характеристику людині просто з історії листування. І це викликає занепокоєння вчених…
Так, згідно з новим дослідженням учених зі Швейцарської вищої технічної школи Цюріха (ETH Zurich), ШІ зумів передбачити такі риси особистості, як доброзичливість та емоційна стабільність, пише «Закон і Бізнес».
Учені попросили 668 користувачів ChatGPT зі США та Великої Британії поділитися з ними копіями історії чатів та навчили модель ШІ виводити особистісні риси за цими діалогами. Дослідники зібрали та проаналізували понад 62 тис. діалогів, згрупувавши їх за основними темами, зазначає Euronews.
Потім навчена модель намагалася оцінити, наскільки ймовірно, що у користувача виражені 5 особистісних факторів, відомих у психології як «Велика п’ятірка»: доброзичливість, доброчесність, емоційна стійкість, екстраверсія та відкритість до нового досвіду.
Учасники також пройшли стандартний психологічний тест, щоб визначити їх основні особистісні риси.
Відповідно до звіту, доопрацьована модель ШІ змогла з точністю до 61% визначати риси користувача. ШІ особливо добре пророкував доброзичливість та емоційну стійкість, але відчував труднощі з оцінкою дорочесності.
Найбільш успішними прогнози були в тих випадках, коли система мала довшу історію листування для аналізу. Це, на думку авторів, означає, що чим активніша людина користується ШІ, тим легше за її діалогами визначити особливості характеру.
Хоча для окремих людей це не спричинить проблем, дослідники зазначають, що «у великих масштабах існують серйозні ризики», якщо даними про риси характеру скористаються зловмисники. За їхніми словами, така інформація може призвести, наприклад, до «масштабних кампаній маніпулювання, які поширюють дезінформацію та/або політичну пропаганду».
Вчені сподіваються, що їхні результати допоможуть розробити інструменти, що знижують ризик надмірного розкриття персональних даних для ШІ, наприклад, системи, які автоматично видаляють відомості, що здатні їх ідентифікувати.