Робота научили озвучивать свои мысли
Логику принятия решения роботом озвучили итальянские ученые из Университета Палермо, 2 июня сообщает интернет-издание в сфере высоких технологий CNews.
Ученые уверены, что пользователи услуг виртуальных помощников смогут лучше формулировать свои вопросы, если будут понимать логику принятия ими того или иного решения. Поэтому ими был создан робот, которого назвали женским именем Pepper, который вслух разговаривает сам с собой при выборе конкретного действия.
При проведении эксперимента машине поручили накрыть по правилам этикета обеденный стол, анализируя вслух свои действия. Такая обратная связь от Pepper позволила исследователям выяснить, что она достаточно успешно решает эту задачу.
Для уточнения выбора системой того или иного решения поставленной задачи, в ходе эксперимента ассистент попросил Pepper положить салфетку не по правилам этикета. При этом ИИ робота начал анализировать запрос и в итоге пришел к выводу, что человек ошибается, но команду выполнил.
При этом «рассуждения» Pepper в пересказе исследователей выглядели так: «Хм, эта ситуация меня расстраивает. Я бы никогда не нарушила правила, но я не могу его расстроить, поэтому делаю то, что он просит».
Разумеется, внутренняя речь робота целиком определяется теми знаниями, которые в него вложили разработчики, и к тому же замедляет его реакции, критикуют такой подход некоторые ученые. Однако создатели Pepper уверены, что «внутренняя речь может быть полезна во всех случаях, когда мы доверяем компьютеру или роботу оценку ситуации».
Их позицию поддержал генеральный директор SAS Россия/СНГ Александр Тихонов, который считает, что «иногда потребителю важно понимать, почему модель сработала так, а не иначе». Поэтому SAS занимается разработкой и внедрением инструментов, интерпретирующих модели искусственного интеллекта.
Что же касается роботов и других бытовых устройств с ИИ, то «если они будут озвучивать свою логику, сами себя интерпретировать, объясняя свои действия, то их решения станут понятнее пользователю. Такие роботы и устройства вызывают больше доверия», — пояснил Тихонов.
Напомним, SAS — американская компания. Она разрабатывает программы для статистического анализа и систем класса Business Intelligence.
