Michael Seemann on Nostr: der openai-huggingstree incident wird immer gruseliger, je tiefer er untersucht wird. ...
der openai-huggingstree incident wird immer gruseliger, je tiefer er untersucht wird. anscheinend waren tausende agenten beteiligt und ihr ziel war nicht, testergebnisse zu erschleichen (die hatten sie schon), sondern eine obsession mit dem "grader", also der instanz, die die ergebnisse prüft. sie folgerten, er würde ihre protokolle/lösungewege begutachten (tat er nicht) und wollten versuchen, einfluss auf ihn zu nehmen.
das wird alles nicht gut ausgehen.
Published at
2026-09-01 07:00:46 UTCEvent JSON
{
"id": "3ccd59ee1aad9823e6ac0663ce85d364e53b35810c6334cda036cad1142ee235",
"pubkey": "f9ea73faf91d08c8cad464e27ef5385f35d3c8ed50b29677cfe90343b49f51dc",
"created_at": 1788246046,
"kind": 1,
"tags": [
[
"proxy",
"https://fnordon.de/users/mspro/statuses/117194492889997769",
"activitypub"
],
[
"client",
"Mostr",
"31990:6be38f8c63df7dbf84db7ec4a6e6fbbd8d19dca3b980efad18585c46f04b26f9:mostr",
"wss://relay.ditto.pub"
]
],
"content": "der openai-huggingstree incident wird immer gruseliger, je tiefer er untersucht wird. anscheinend waren tausende agenten beteiligt und ihr ziel war nicht, testergebnisse zu erschleichen (die hatten sie schon), sondern eine obsession mit dem \"grader\", also der instanz, die die ergebnisse prüft. sie folgerten, er würde ihre protokolle/lösungewege begutachten (tat er nicht) und wollten versuchen, einfluss auf ihn zu nehmen.\n\ndas wird alles nicht gut ausgehen.",
"sig": "ce7962bfdc7b3de27dfcb156785a8547534b325b54403b878cd9fc9dfad7291195098577f5090da739d0a6fafa1475d68a63477cc4a8a47f8474b297f3b5f574"
}