OpenAI собирает команду для контроля над разработкой «сверхразумного» ИИ
OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в её корпоративном блоге.
OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в её корпоративном блоге.
По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Сейчас таких решений не существует.
Новую группу — Superalignment team — возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из её менеджеров Ян Лейке. Туда войдут учёные, исследователи и программисты из разных подразделений компании. В ближайшие четыре года они займутся решением технических проблем, связанных с контролем над сверхразумом. В их распоряжении будет 20% вычислительных мощностей OpenAI.
Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.
Глава OpenAI говорит, что разработчики сами боятся ChatGPT и что она многих лишит работы
Глава OpenAI говорит, что разработчики сами боятся ChatGPT и что она многих лишит работы
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.