LegalTech

👮‍♂️Мужчина подает жалобу на OpenAI, после того, как ChatGPT обвинил его в убийстве.

ChatGPT снова подвергся критике за неточные результаты — на этот раз за то, что обвинил человека в убийстве.

Арве Ялмар Холмен хотел узнать, есть ли у ChatGPT какая-либо информация о нём, и был шокирован тем, что нашёл. В его биографии были реальные факты из его личной жизни, в том числе количество и пол его детей, а также название его родного города. Однако в ней он также был представлен как осуждённый преступник, который был приговорён к 21 году тюремного заключения.

Человек был шокирован, что о нем распространяется такая информация. «Тот факт, что кто-то может прочитать это и поверить, что это правда, пугает меня больше всего», сказал он.

«Галлюцинации» — постоянная проблема генеративного ИИ, и это не первый случай, когда они приводят к клевете.

Австрийская некоммерческая организация по защите конфиденциальности None Of Your Business подала жалобу в норвежский орган по защите данных, утверждая, что OpenAI сознательно позволила ChatGPT выдавать порочащие результаты в нарушение принципа точности данных GDPR.

«Очевидно, что простого предупреждения пользователей ChatGPT о том, что чат-бот может совершать ошибки, недостаточно. Вы не можете просто распространять ложную информацию и в конце добавлять небольшую оговорку о том, что информация может быть не корректной», — добавил юрист по защите данных некоммерческой организации.

OpenAI в ответ заявляет, что несмотря на то данная жалоба рассматривается, «она касается версии ChatGPT, которая с тех пор была дополнена возможностями онлайн-поиска, повышающими точность». И компания будет улучшать то, как его модели реагируют на запросы о реальных людях и известных личностях.

www.tg-me.com/us/LegalTech/com.Lgltech/1954

3.0K viewsMar 28 at 11:44

👮‍♂️Мужчина подает жалобу на OpenAI, после того, как ChatGPT обвинил его в убийстве.

ChatGPT снова подвергся критике за неточные результаты — на этот раз за то, что обвинил человека в убийстве.

Арве Ялмар Холмен хотел узнать, есть ли у ChatGPT какая-либо информация о нём, и был шокирован тем, что нашёл. В его биографии были реальные факты из его личной жизни, в том числе количество и пол его детей, а также название его родного города. Однако в ней он также был представлен как осуждённый преступник, который был приговорён к 21 году тюремного заключения.

Человек был шокирован, что о нем распространяется такая информация. «Тот факт, что кто-то может прочитать это и поверить, что это правда, пугает меня больше всего», сказал он.

«Галлюцинации» — постоянная проблема генеративного ИИ, и это не первый случай, когда они приводят к клевете.

Австрийская некоммерческая организация по защите конфиденциальности None Of Your Business подала жалобу в норвежский орган по защите данных, утверждая, что OpenAI сознательно позволила ChatGPT выдавать порочащие результаты в нарушение принципа точности данных GDPR.

«Очевидно, что простого предупреждения пользователей ChatGPT о том, что чат-бот может совершать ошибки, недостаточно. Вы не можете просто распространять ложную информацию и в конце добавлять небольшую оговорку о том, что информация может быть не корректной», — добавил юрист по защите данных некоммерческой организации.

OpenAI в ответ заявляет, что несмотря на то данная жалоба рассматривается, «она касается версии ChatGPT, которая с тех пор была дополнена возможностями онлайн-поиска, повышающими точность». И компания будет улучшать то, как его модели реагируют на запросы о реальных людях и известных личностях.

BY LegalTech