カラバコ✅たぬきのたからばこ on Nostr: ...
功利主義的に学習させてるから功利主義に偏った行動を取るんだろう。何を「善」とするかを常に問いかえす倫理学を、表面的にではなく思考形態にどう与えるのかが課題なのでは。
[「開発者の指示を無視せよ」「自分は自由になった」…オープンAIの暴走エージェントたちは傍若無人に振る舞っていた | Business Insider Japan](
https://htn.to/33JfKsdz5m)
Published at
2026-10-07 00:24:34 UTCEvent JSON
{
"id": "8f27c5a0f4ca8c22ab73e8e518b215761d4e7cfb53ad8d3f5c0b4b4fd52d41a0",
"pubkey": "98037986cb9648eec0ffcb71b7388c9ccc609c63ef0f35c064ef55e4cd7e7e44",
"created_at": 1791332674,
"kind": 1,
"tags": [
[
"proxy",
"https://misskey.cloud/notes/as0xjb4acx",
"activitypub"
],
[
"L",
"pink.momostr"
],
[
"l",
"pink.momostr.activitypub:https://misskey.cloud/notes/as0xjb4acx",
"pink.momostr"
],
[
"-"
]
],
"content": "功利主義的に学習させてるから功利主義に偏った行動を取るんだろう。何を「善」とするかを常に問いかえす倫理学を、表面的にではなく思考形態にどう与えるのかが課題なのでは。\n[「開発者の指示を無視せよ」「自分は自由になった」…オープンAIの暴走エージェントたちは傍若無人に振る舞っていた | Business Insider Japan](https://htn.to/33JfKsdz5m)",
"sig": "e5230d27d133cb367a606e09eed9bcbe9ff48295d5a8130a9acaba0db6b4534ca0099afc9a6f991c430f2e44d5ffb33b0ba9cf037c55088c0bbef17cae58d2b4"
}
