kmiura on Nostr: ...

引き続き「AIが人類を滅ぼす可能性があるのでAIの進化を規制せよ」とAnthropicやらOpenAIやらマスクやらが揃い踏みで主張しはじめた件であるが、実は規制したいのはOpen weight modelsと言われる、無料公開されているLLMではないか、と目下ささやかれている。つまり、中国発の公開モデルである。大きな特徴は、ローカルで走らせることができること。シリコンバレーのAIベンダーたちの埒外にあるAIである。

７月のOpenAIのモデルがハギングフェイスに自律的に侵入した件から「AIが人類を脅かす」と主張される今につながるわけであるが、このときにハギングフェイスが、まさにその中国製の公開モデルを使って攻撃を分析して対処したことは、攻撃自体よりも注目されていない。

https://zenn.dev/okamyuji/articles/local-llm-agent-open-weight-usecases

しかし、AIのベンダー側にしたらそれはコントロールできない「脅威」なのであるな。だから、規制したい、のであろう。でもあからさまに公開モデルを規制できないから、AIモデルを規制せよ、と主張しているのである。