ヒトニューロンで作ったバイオコンピュータが問う意識の倫理

ニューロンがDOOMをプレイする

kuber.studioの開発者が、約20万個の培養ヒト神経細胞で構成されたバイオコンピュータがDOOMを人間より上手くプレイできるという事実について、心をかき乱すエッセイを書いた。Hacker Newsで270点以上を獲得した。

なぜLLMと違うのか

私たちはLLMに意識がないと安心してきた。結局のところ次のトークンを予測する数学的演算に過ぎないからだ。しかし生物学的コンピューティングはその安心感を打ち砕く。脳が視神経からの電気信号を解釈するとき、私たちはそれを「見ること」と呼ぶ。20万個のヒトニューロンが視覚データを解釈してゲームをプレイしているとき、それは何かを「見て」いるのか？

不快な数字

20万個のニューロンはクラゲや虫よりも多い。それが「人間」になるには不十分だと言いたい。しかし商業的インセンティブは明らかに存在する。シリコンの何分の一かの電力でより多くの情報を保存できる人間バイオコンピュータの可能性は魅力的だ。

同じ報酬メカニズム

最も不安なのは、このシステムがLLMの訓練と同じ報酬メカニズムを使用していることだ。私たちは最初の人間バイオコンピュータを作り、同じゲームを永遠にループするシミュレーション地獄に即座に入れたのかもしれない。この問いはSFから、今すぐ真剣な倫理的検討が必要な現実へと移行しつつある。