Лаборатория Промптинга Mozlab

Этическая декларация при использовании ИИ: как мы преодолевали страхи

Все больше приходится слышать про всяческие регуляции, связанные с ИИ. Возможно, вам покажется это странным… но мы тоже такое сделали.

Когда весной мы аккуратно начали использовать нейросети при подготовке к стратегическим сессиям (либо просто на сессиях по решению конкретных задач), мы столкнулись с разными вызовами, часть из которых была обусловлена некоторым «страхом ИИ» (а точнее, рисками, связанными с его применением), а часть с необходимостью четко понимать рамки его применения.

В апреле появилась первая версия (так что эта декларация — ровесница Лаборатории промптинга), которая потом постоянно дополнялась. В этом посте хочу привести самую свежую версию и объяснить, зачем нужен каждый пункт.

Итак,

Этическая декларация при использовании нейросетей в работе с живой группой (требования к ведущему/организатору):

1️⃣ Разбираться в предметной области запросов к ИИ

Это позволит отличить полезные идеи от галлюцинаций. Необходимо либо разбираясь самому, либо привлекать эксперта.

2️⃣ Получать разрешение группы на использование идей ИИ по каждому решаемому вопросу

Это создаёт атмосферу доверия и включает осознанность по поводу того, что сейчас к работе подключается ИИ.

3️⃣ Предупреждать группу об ограничениях ИИ и/или Вручную проверять факты, предоставленные ИИ

Поскольку нейросети могут генерировать правдоподобную, но ложную информацию (и эта способность день ото дня только совершенствуется), мы настоятельно рекомендуем И предупреждать об этом, И перепроверять наиболее критичные факты вручную. В не слишком ответственных ситуациях достаточно одного из этих действий.

4️⃣ Использовать ИИ как вспомогательный инструмент, а не основной источник решений

Очень важно, чтобы группа критически оценивала и развивала идеи ИИ, а не пассивно принимала их «как есть». Для этого…

5️⃣ Определять ответственного за каждую идею ИИ, взятую в работу

Мы реализуем это через галочку «взять идею ИИ». Тот, кто ее нажал — подтверждает, что он видит в этой идее толк.

6️⃣ Предлагать (раскрывать) готовый промпт и допускать его модификацию участниками

Очень важное условие. Людей раздражает режим «чёрного ящика». Косвенно в этом можно убедиться по количеству рекомендаций, «как взломать сервис на основе ИИ, где промпт скрыт».

Что дальше?

Вот такие шесть пунктов используем мы. На сегодняшний день этого вполне достаточно, что подтверждается почти каждый день.

Что добавите? Что используете вы? Или, наоборот, что-то считаете излишним?

PS: Поставьте реакцию, если присоединяетесь!

в каталог промптов и кейсов применения нейросетей

Please open Telegram to view this post

VIEW IN TELEGRAM

www.tg-me.com/hk/telegram/com.PromptLab_Mozlab/99

2.6K viewsedited  Nov 9, 2023 at 14:26

Этическая декларация при использовании ИИ: как мы преодолевали страхи

Все больше приходится слышать про всяческие регуляции, связанные с ИИ. Возможно, вам покажется это странным… но мы тоже такое сделали.

Когда весной мы аккуратно начали использовать нейросети при подготовке к стратегическим сессиям (либо просто на сессиях по решению конкретных задач), мы столкнулись с разными вызовами, часть из которых была обусловлена некоторым «страхом ИИ» (а точнее, рисками, связанными с его применением), а часть с необходимостью четко понимать рамки его применения.

В апреле появилась первая версия (так что эта декларация — ровесница Лаборатории промптинга), которая потом постоянно дополнялась. В этом посте хочу привести самую свежую версию и объяснить, зачем нужен каждый пункт.

Итак,

Этическая декларация при использовании нейросетей в работе с живой группой (требования к ведущему/организатору):

1️⃣ Разбираться в предметной области запросов к ИИ

Это позволит отличить полезные идеи от галлюцинаций. Необходимо либо разбираясь самому, либо привлекать эксперта.

2️⃣ Получать разрешение группы на использование идей ИИ по каждому решаемому вопросу

Это создаёт атмосферу доверия и включает осознанность по поводу того, что сейчас к работе подключается ИИ.

3️⃣ Предупреждать группу об ограничениях ИИ и/или Вручную проверять факты, предоставленные ИИ

Поскольку нейросети могут генерировать правдоподобную, но ложную информацию (и эта способность день ото дня только совершенствуется), мы настоятельно рекомендуем И предупреждать об этом, И перепроверять наиболее критичные факты вручную. В не слишком ответственных ситуациях достаточно одного из этих действий.

4️⃣ Использовать ИИ как вспомогательный инструмент, а не основной источник решений

Очень важно, чтобы группа критически оценивала и развивала идеи ИИ, а не пассивно принимала их «как есть». Для этого…

5️⃣ Определять ответственного за каждую идею ИИ, взятую в работу

Мы реализуем это через галочку «взять идею ИИ». Тот, кто ее нажал — подтверждает, что он видит в этой идее толк.

6️⃣ Предлагать (раскрывать) готовый промпт и допускать его модификацию участниками

Очень важное условие. Людей раздражает режим «чёрного ящика». Косвенно в этом можно убедиться по количеству рекомендаций, «как взломать сервис на основе ИИ, где промпт скрыт».

Что дальше?

Вот такие шесть пунктов используем мы. На сегодняшний день этого вполне достаточно, что подтверждается почти каждый день.

Что добавите? Что используете вы? Или, наоборот, что-то считаете излишним?

PS: Поставьте реакцию, если присоединяетесь!

в каталог промптов и кейсов применения нейросетей