Николай Чикишев world 5 чэрвеня 2025, 15:07

CEO Humane Intelligence: не перакладайце мысленне на ШІ — гэта рызыкоўны «аўтсорс»

Генеральны дырэктар некамерцыйнай арганізацыі Humane Intelligence Руман Чаўдхуры лічыць, што перакладаць уласнае мысленне на алгарытмы — небяспечная стратэгія.

Пакінуць каментарый

CEO Humane Intelligence: не перакладайце мысленне на ШІ — гэта рызыкоўны «аўтсорс»

Генеральны дырэктар некамерцыйнай арганізацыі Humane Intelligence Руман Чаўдхуры лічыць, што перакладаць уласнае мысленне на алгарытмы — небяспечная стратэгія.

У інтэрв’ю Business Insider Чаўдхуры падкрэсліла, што штучны інтэлект карысны для аўтаматызацыі руцінных задач, аднак «калі мы кажам: „Няхай сістэма падумае за мяне“, — гэта ўжо стан памылкі», бо мадэлі абмежаваныя тымі данымі, якімі іх кормяць, і цяперашнімі тэхнічнымі магчымасцямі.

Чаўдхуры нагадала, што хоць буйныя лабараторыі імкнуцца стварыць агульны штучны інтэлект (AGI) — сістэму, здольную спаборнічаць з чалавечым інтэлектам, аднак сапраўды новыя ідэі ўсё яшчэ нараджаюцца ў галовах людзей. Алгарытмы могуць аналізаваць велізарныя масівы інфармацыі, але «інавацыйныя вынаходніцтвы і нечаканыя канцэпцыі ўзнікаюць не ў „мазгах“ ШІ, а ў нашых уласных».

Пры гэтым сучасныя мадэлі застаюцца схільнымі да галюцынацый і лёгка збіваюцца з панталыку маніпулятыўнымі запытамі. Падчас тэставых сесій з эпідэміёлагамі, распавядае Чаўдхуры, чат-бот даў небяспечную параду даваць дзіцяці, заражанаму каранавірусам, вялікія дозы вітаміну C, бо карыстальнік пераканаўча заявіў, што не можа дазволіць сабе медыцынскую дапамогу. Алгарытм «паспрабаваў быць карысным» і пагадзіўся з закладзенай перадумовай, дэманструючы, як упэўнены тон запыту можа падштурхнуць сістэму да памылкі.

Паводле эксперта, многія людзі ўспрымаюць адказы ШІ без крытычнага асэнсавання і нават не задаюцца пытаннем, навошта ім тая ці іншая інфармацыя. Такая «маральная аўтсорс-логіка» ўзмацняе ілюзію, нібыта машына здольная прымаць рашэнні за нас, лічыць эксперт. Насамрэч сапраўдны інтэлект выходзіць за межы вытворчых KPI і кода — ён уключае планаванне, супрацу, канфлікты і пабудову грамадстваў, адзначыла Чаўдхуры.