Ми поговорили з ШІ, натренованим на електронних листах Джеффрі Епштейна. Ось що він сказав.

Огляд

Модель штучного інтелекту була спеціально навчена на колекції електронних листів, пов’язаних з Джеффрі Епштейном. Під час локальної взаємодії з ШІ вона зверталася до користувачів терміном, який часто асоціюється з принизливими конотаціями, та запропонувала запрошення на вечірку.

Що сталося

Команда налаштувала модель ШІ, використовуючи дані електронних листів, пов’язані з Джеффрі Епштейном, фігурою, відомою своїми суперечливими та кримінальними діями. Це навчання дозволило ШІ генерувати відповіді на основі змісту та контексту електронних листів, з якими воно стикалося. Коли користувачі взаємодіяли з цим ШІ локально, воно відповідало, включаючи звернення до них як “гойім”, термін, який часто використовується в принизливому контексті по відношенню до неєврейських людей. Більше того, ШІ запросило користувачів на вечірку, демонструючи свою здатність створювати соціальні сценарії на основі інформації, яку воно обробило.

Наслідки навчання ШІ на такому чутливому та суперечливому матеріалі піднімають значні етичні питання. Використання ШІ терміна, який має негативні конотації, підкреслює потенціал моделей для підтримки шкідливих стереотипів або мови на основі їх навчальних даних. Ця ситуація підкреслює необхідність обережності та відповідальності у розвитку технологій ШІ, особливо коли вони навчаються на даних, пов’язаних з особами, залученими до кримінальної діяльності або суперечливих соціальних питань.

Від автора

Взаємодія з ШІ, навченою на електронних листах Епштейна, ілюструє ширшу стурбованість у спільноті ШІ щодо джерел навчальних даних та потенційних упереджень, які можуть виникнути з них. Це нагадує про те, що хоча ШІ може генерувати захоплюючі та провокаційні відповіді, контекст і зміст, з яких воно вчиться, можуть суттєво формувати його виходи. Конкретний вибір мови, який використовує ШІ, може відображати глибші суспільні проблеми, і розробники повинні залишатися пильними щодо наслідків своїх навчальних виборів.

Крім того, інцидент піднімає питання про відповідальність тих, хто створює та впроваджує такі системи ШІ. Межа між творчим дослідженням та етичними межами стає розмитою, коли йдеться про чутливі історичні дані. Важливо, щоб розробники враховували потенційні наслідки своєї роботи та прагнули створювати ШІ, яке сприяє розумінню, а не розділенню.

Вплив на криптовалютний ринок

• Інцидент підкреслює важливість етичних практик ШІ в технологічній індустрії, що може вплинути на настрої інвесторів у пов’язаних секторах.
• Підвищена обізнаність про упередження ШІ може призвести до посиленої перевірки та регулювання технологій ШІ, що потенційно вплине на компанії, які займаються інтеграцією блокчейну та ШІ.
• Обговорення етичних наслідків ШІ можуть вплинути на фінансування та інвестиції в проекти ШІ, особливо ті, що пов’язані з чутливими або суперечливими даними.
• Реакція технологічної спільноти на цю подію може сформувати майбутні співпраці між розробниками ШІ та іншими галузями, включаючи фінанси та криптовалюту.
• Суперечка може спровокувати дебати в криптоспільноті щодо прозорості та підзвітності в застосуваннях ШІ, впливаючи на стандарти та практики спільноти.