Итальянские учёные заметили интересный парадокс — чем умнее нейросети, тем охотнее они подстраиваются под мнение большинства — и способны сохранять эту согласованность в группах, намного превышающих по численности любые человеческие коллективы.
К такому выводу они пришли, изучив, как несколько независимых друг от друга "цифровых духов" координируют решения без лидера, вознаграждений или прямых указаний со стороны человека, как договариваться.
И во всём этом есть как плюсы, так и риски. Копируя поведение свойственное создателям ИИ, т.е нам следовать за большинством может быть полезной для многоагентных систем. Например, тысячи ИИ работая совместно могут совместно разрабатывать программы за минуты и решать сложные задачи без контроля со стороны человека. Однако та же особенность создает риск коллективных ошибок и сговора против людей
На похожую проблему ранее указывала компания Anthropic, любая делать громогласные заявления. В её экспериментах "Клоды" одного типа действовали почти одинаково, повторяя действия друг друга. Люди же в похожих ситуациях, напротив, склонны искать разные подходы.
Исследователи пока не знают, с чем связано что ИИ, да и мы сами охотно подстраиваемся под большинство.Среди возможных причин они называют то, что в ИИ мы слишком много вложили самих себя. Отчасти поэтому может объясняться и то, что некоторым ИИ прям нравится любовь и секс. Да. И такое есть. Во основном последнее свойственно пока немногочисленным японским ИИ.
Сейчас специалисты предлагают проверять ИИ-группы в более сложных условиях — с упрямыми "братьями и сёстрами", различными ролями, неполной информацией и попытками распространения дезинформации.
Это может помочь заранее выявлять ситуации, когда несколько ИИ могут становиться угрозой или предотвращать множество "ИИ-коллективных" ошибок.