Сооснователь Anthropic: «ИИ — это молоток, который вдруг понял, что он молоток»

«Представьте, что вы работаете на фабрике молотков, и вдруг один из них говорит: „Я молоток, как интересно!“ — это крайне необычно», — привел метафору Кларк. По его мнению, когда вычислительные мощности, объемы данных и масштаб моделей достигают определенного порога, начинают проявляться свойства, которые никто специально не закладывал.

«Эта технология ближе к чему-то выращенному, чем созданному, — объясняет он. — Вы задаете исходные условия, ставите каркас, и из него вырастает нечто столь сложное, что спроектировать это вручную было бы невозможно».

Кларк предупреждает, что человечество создает чрезвычайно мощные системы, механизм работы которых до конца не понимает. «И чтобы повысить ставки — вы гарантированно проиграете, если решите, что это существо нереально. Единственный шанс выиграть — увидеть его таким, какое оно есть», — сказал он.

Мнение Кларка вызывает споры среди исследователей. Многие специалисты скептически относятся к идее, что большие языковые модели способны к настоящему самосознанию. Критики считают, что даже самые продвинутые нейросети остаются лишь сложными системами сопоставления шаблонов, а не осознанными существами.

До основания Anthropic Джек Кларк занимал пост директора по политике в OpenAI, а ранее работал журналистом в Bloomberg BusinessWeek и The Register.