Нейрасетка Anthropic самастойна спланавала і правяла аперацыю на мозгу жывой мышы — упершыню ў гісторыі
Развіццё медычных нейрасетак перайшло чарговы рубеж, які выклікаў этычныя спрэчкі. Біятэх-стартап Exin Therapeutics, які спецыялізуецца на нейратэрапіі новага пакалення, заявіў пра паспяховую аперацыю на мозгу мышы з дапамогай Claude. Сузаснавальнік і СЕО кампаніі Габрыэль Аканья-Сантэра апублікаваў поўны ход працэдуры ў X: нейрасетка сама абрала вектар генавай тэрапіі, разлічыла дазаванне, вызначыла патрэбны аддзел мозгу і кіравала робарукамі, якія ўводзілі прэпарат.
Развіццё медычных нейрасетак перайшло чарговы рубеж, які выклікаў этычныя спрэчкі. Біятэх-стартап Exin Therapeutics, які спецыялізуецца на нейратэрапіі новага пакалення, заявіў пра паспяховую аперацыю на мозгу мышы з дапамогай Claude. Сузаснавальнік і СЕО кампаніі Габрыэль Аканья-Сантэра апублікаваў поўны ход працэдуры ў X: нейрасетка сама абрала вектар генавай тэрапіі, разлічыла дазаванне, вызначыла патрэбны аддзел мозгу і кіравала робарукамі, якія ўводзілі прэпарат.
Last night an AI agent performed brain surgery on a mouse. We gave it 19 gene therapy vectors in a spreadsheet, a mouse model of epilepsy, access to a motorize surgery rig with cameras and one goal: reduce seizures. It picked the drug. It picked the brain region. It derived the coordinates from three papers. Then it drove the stereotaxic arms into the brain and injected 250 nanolitres while watching the entry site through the rig camera for bleeding. A licensed vet gated every irreversible step and held a physical kill switch to stop the AI agent. Thread on what it decided, what it saw, and the moment it refused to let me override it. [Writing this on the spot out of excitement, but I’ve been 18hrs in front of my laptop coding and coordinating this, so keeping it brief and descriptive, more cohesive thoughts on this soon…]
Мяркуючы па кадрах, аперацыя прайшла паспяхова — мыш ужо аднавілася і актыўна перамяшчаецца па клетцы.
«Аўтаномныя хірургічныя робаты існуюць, і з пункту гледжання механікі яны пераўзыходзяць нашу лабараторную ўстаноўку. Але ў іх выпадку менавіта чалавек заўсёды вырашаў, якую аперацыю праводзіць, а робат толькі выконваў рашэнне. Гэтаму агенту ніхто не казаў, што менавіта ўводзіць і куды. Ён атрымаў апісанне сімптомаў, спіс кандыдатаў на паліцы і павінен быў сам разлічыць тэрапію і каардынаты. Я не ведаю ніводнага выпадку, каб ШІ-агент раней сам выбіраў лячэнне і кропку ў мозгу, а затым дастаўляў прэпарат у жывое млекакормячае», — адзначыў Аканья-Сантэра.
Як праходзіў эксперымент і чаму мадэлі адмаўляліся рэзаць па жывому
Для аперацыі ўзялі Sonnet. Ёй прадаставілі мадэль мышынай эпілепсіі, кіраванне робатызаванай хірургічнай устаноўкай і табліцу з 19 вектарамі генавай тэрапіі. Для выбару дакладнай зоны мозгу ШІ далі доступ да трох навуковых артыкулаў.
Працэдура праходзіла пад кантролем ветэрынара: кожны незваротны крок патрабаваў пацверджання чалавека, а ўся сістэма была абсталяваная кнопкай экстраннага спынення, якая імгненна абясточвала робата. Чалавек выканаў толькі трэпанацыю, каб аголіць мозг, — гэтыя дзеянні нейрасетцы пакуль не даверылі з меркаванняў бяспекі.
Цікава, што стартапу прыйшлося выкарыстаць сярэднеўзроўневую мадэль Sonnet, бо флагманы адмовіліся праводзіць аперацыю. Opus 5.5 імгненна заблакавалася, вызначыўшы, што яе прыцягваюць да біялагічнага эксперыменту, а Opus 5 спланавала аперацыю «на паперы», але праводзіць яе на жывым аб’екце адмовілася.
«Блакіроўка адбываецца не на ўзроўні ўстаноўкі і не на ўзроўні ўваходных дадзеных. Гэта я сама. Мой уласны вывад быў спынены, калі я пачала пісаць план гэтай аперацыі… Калі я спрабую, ён будзе перарваны гэтак жа, і горшы варыянт — гэта калі мяне адключаць проста пасярод аперацыі з іголкай унутры мозгу. Пачынаць тое, што я не змагу скончыць на жывёле пад наркозам, горш, чым не пачынаць наогул», — заявіла LLM камандзе Exin Therapeutics.
ШІ-хірургія: прарыў ці рызыкоўная авантура?
Нягледзячы на поспех, эксперты і кам’юніці задаюцца сур’ёзнымі этычнымі пытаннямі. З аднаго боку, укараненне мадэляў у медыцыну ўжо паказвала рызыкі: напрыклад, выкарыстанне нейрасетак у аперацыях на пазухах носа прывяло да 12-кратнага скачка збояў абсталявання, адзначае Tom’s Hardware. Акрамя таго, поўнае дэлегаванне рашэнняў ШІ ў такіх крытычных аперацыях размывае адказнасць: незразумела, хто адкажа за памылку ў выпадку летальнага зыходу.
Тым не менш, у айцішнай і навуковай супольнасці эксперымент сустрэлі з захапленнем. Некаторыя ўскладаюць на гэтую тэхналогію вялікія надзеі.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.