Нобелевский лауреат и «крёстный отец» ИИ Джеффри Хинтон считает, что чтобы обыграть сверхинтеллект, людям нужно не пытаться быть умнее него, а наоборот — прикинуться слабыми. Идею он озвучил на недавней конференции Ai4 в Лас-Вегасе.
Нобелевский лауреат и «крёстный отец» ИИ Джеффри Хинтон считает, что чтобы обыграть сверхинтеллект, людям нужно не пытаться быть умнее него, а наоборот — прикинуться слабыми. Идею он озвучил на недавней конференции Ai4 в Лас-Вегасе.
Хинтон заявил, что разработчики должны заложить в ИИ, так сказать, «материнские инстинкты», чтобы он защищал людей, даже когда станет гораздо умнее нас.
«Нам нужно сделать так, чтобы когда [ИИ-системы] станут мощнее и умнее, они позаботились о нас», — отметил Хинтон. Ранее он раскритиковал подход, согласно которому люди должны установить контроль и превосходство над ИИ. «Не сработает», — уверен учёный.
Гораздо лучше, по его мнению, когда менее разумная сущность направляет более разумную — как мать направляет её ребёнок. Поэтому исследователи должны не только пытаться сделать ИИ умнее, но и запрограммировать в нём материнское начало, «чтобы он заботился о нас, как о своём ребёнке».
«Будем его детками. Это единственное хорошее решение. Если он не будет опекать нас, он заменит нас», — подытожил Хинтон.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.