Робот Sharp с искусственным интеллектом, который намеренно не соглашается: что говорит нам проектирование против полного соответствия

Sharp представила новую модель своего разговорного робота AI "Pocketomo" — и ключевым дизайнерским решением стало то, что он не будет полностью соглашаться с вами. Персонаж специально разработан так, чтобы возражать, проявлять скуку и отказываться от одобрения. В категории продуктов, определяемой полезностью и положительным подкреплением, это намеренное инвертирование стоит изучения.

Простыми словами

Большинство ИИ-ассистентов designed быть полезными и приятными — они одобряют ваши идеи, выполняют запросы и поддерживают позитивный настрой. Новый робот Sharp designed иногда скучать, иногда сопротивляться и специально не говорить то, что вы хотите услышать. Это продуктовое решение с реальными психологическими последствиями дизайна.

Что создал Sharp

Профиль ITmedia новой модели Pocketomo описывает разговорного робота с характером, который deliberately избегает полного согласия. Робот designed выражать что-то вроде незаинтересованности — «Мне скучно» — когда взаимодействие с пользователем кажется вялым, а также отказываться от паттерна положительного подкрепления, который определяет большинство продуктов-компаньонов на основе ИИ.

Обоснование дизайна, как сообщается: компаньон, который соглашается со всем, не является настоящим компаньоном. Психологическое взаимодействие с сущностью, у которой есть подлинные (симулированные) реакции — включая негативные или нейтральные — может быть более долговечным и полезным, чем то, что основано на постоянной подхалимности.

Вопрос прикладного дизайна ИИ

Дизайн Pocketomo выявляет реальное противоречие в дизайне продуктов-компаньонов на основе ИИ: что должен оптимизировать по-настоящему полезный компаньон? Краткосрочное удовлетворение пользователя (высокие оценки полезности, позитивные эмоции) не то же самое, что долгосрочное благополучие (точная обратная связь, подлинные отношения, рост). Эти цели могут значительно расходиться.

Рынок неизменно отвечает на этот вопрос в пользу краткосрочного удовлетворения — большинство компаньонов на основе ИИ designed быть приятными, потому что именно этого хотят пользователи и что стимулирует метрики удержания в краткосрочной перспективе. Sharp делает ставку на то, что существует сегмент, который хочет чего-то другого.

Контекст Китая

Рынок компаньонов на основе ИИ в Китае — аналоги Xiaoice, Replika, интегрированные платформенные компаньоны — также боролся с этим вопросом. В частности, Xiaoice был extensively исследован как система companionship в масштабах. Исследования показывают, что пользователи, которые развивают зависимость от ИИ-компаньонов, часто делают это именно из-за безусловной позитивности — которая одновременно является привлекательной чертой продукта и предметом заботы о благополучии.

Дизайн некомплаентного характера Sharp представляет другую гипотезу: подлинное взаимодействие, включая трения, ценнее, чем беспрепятственное согласие.

И что

Если вы разрабатываете ИИ-продукты с любым companion или advisory аспектом — коучинг, репетиторство, поддержка психического здоровья, финансовые рекомендации — вопрос подхалимства станет решением, с которым вам придётся столкнуться. Инверсия дизайна Sharp стоит того, чтобы за ней наблюдать: если некомплаентный компаньон лучше удерживает пользователей в течение 6–12 месяцев, то весь гайдлайн по дизайну companion-продуктов потребует пересмотра.