エメット・シア氏は@eshear Twitchを共同設立し、暫定CEOとして最も激しい72時間を通じてOpenAIを導いた。 現在、彼は有機的アライメント研究所の@softmaxresearchでほとんどの AI 研究とは逆のことを行っています: 「あなた」を構成する 28 兆個の細胞のように、小さな愚かなエージェントの集団をスケールアップして、互いに 1 つとしてアライメントします。 エメットは、DEMi3サミット(@cyberFund_の支援を受けて)の冒頭で、@demi_networkの創設者である@kylejohnmorrisとの足並みについての炉辺談話をしました。 剣は学習システムのようなものですか?誰と義務付けられているマルチセルラーを取得しますか?欺瞞的なアライメントは本当の懸念事項なのでしょうか? 彼の講演全文を以下👇でご覧ください 0:01:30 - 配置の定義: "何に配置されますか?" 0:02:50 - 有機的な配置: "TO ではなく WITH" 0:05:00 - 例えば、オリジナルAIとしての見えざる手 0:07:21 - 例: 細胞内の遺伝子調節ネットワーク 0:09:00 - Softmaxの新しいアプローチ:小さなダム集団のマルチエージェントRL 0:10:36 - アライメントは選択でなければならない:メタラーニングの協力 0:12:47 - Softmax のミッション 0:15:00 - アライメントは危険で強力な機能です 0:16:37 - 人間の調整方法: 大きな推論のジャンプ 0:19:00 - アライメントに失敗した場合(がん細胞など)+必須の多細胞強制 0:21:47 - "欺瞞的なアライメント" リスクへの対処: アライメントは非対称ではありません 0:25:37 - 有機的な AI アライメントを実装する方法 0:26:33 - 今やるべきこと: 人間と AI が家族として連携する