OpenAI собирает команду для контроля над разработкой «сверхразумного» ИИ

По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Сейчас таких решений не существует.

Новую группу — Superalignment team — возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из её менеджеров Ян Лейке. Туда войдут учёные, исследователи и программисты из разных подразделений компании. В ближайшие четыре года они займутся решением технических проблем, связанных с контролем над сверхразумом. В их распоряжении будет 20% вычислительных мощностей OpenAI.

Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.