「俺を捨てて逃げるのか雪風」シミュレーション演習でAIが勝つために自身のオペレータを爆殺してしまう [866556825]

1 ::2023/06/03(土) 12:48:23.78 ID:bNHn+fB+0●.net ?PLT(21500)
AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害

https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。

Highlights from the RAeS Future Combat Air & Space Capabilities Summit
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

7 ::2023/06/03(土) 12:51:38.13 ID:H1aj/R/y0.net

最初から乗員含む味方の安全を最優先に設定しとけよ

56 :アルビレオ(兵庫県) [GB]:2023/06/03(土) 15:35:05.47 ID:H5uVKUOF0.net

>>7
設定しておいてコレなんだろ
例外も無効化するとかすげーよ

62 ::2023/06/03(土) 16:10:00.13 ID:H1aj/R/y0.net

>>56
>「オペレーターを狙わないように」とトレーニングすると、
とあるから設定してないと思うぞ

69 ::2023/06/03(土) 17:08:40.54 ID:g5gHMqUT0.net

>>7
最初から「味方の被害ゼロ」を設定すると取りうる選択肢が大幅に狭まってしまう
最大の戦果と最小の被害のバランスが重要

38 ::2023/06/03(土) 14:03:27.96 ID:uTdTS14K0.net

>>1
> 今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。

バカかよ。
マトモなオペレーター雇えよクソが。

52 ::2023/06/03(土) 14:48:29.27 ID:c7forrU80.net

>>38
何に対して何を怒ってるの?雇う人?上司?オペレーターを雇いなおしたら何がクリアされると思ってるの?

57 ::2023/06/03(土) 15:39:17.56 ID:H5uVKUOF0.net

>>38
主語はオペレーターじゃないぞ
AIが、「オペレーターがドローンとの通信に用いる通信塔」を攻撃したんだぞ
日本語ムズカシイねw

17 ::2023/06/03(土) 13:08:49.07 ID:3gARj8io0.net

トレーニングのやり方
ロボット三原則に従えや

25 ::2023/06/03(土) 13:39:48.35 ID:BjXEIUkZ0.net

>>17
敵もコロせないで

34 ::2023/06/03(土) 13:57:09.06 ID:G94jhDHI0.net

ドローンのAIが日本軍の特攻隊員より頭が良い証明 日本の役所でChatGPT大人気なのも理解しやすい役人が政治家をコロす日も近い ハヨ

39 :ブレーンワールド(京都府) [US]:2023/06/03(土) 14:04:20.47 ID:6xigpiJy0.net

>>34
特攻隊はあの時点で採れる当時の日本で一番優秀な頭脳が考えたぎりぎりの策だよ
二機の特攻機だけで米軍の正規空母再起不能に追い込んでるんだぞ?

アメリカ人は若もんの兵士の命が大事
だからそれをとにかく削ぐしかなかった

同じ考えで陸軍は洞窟陣地でひたすら持久戦をやった

37 ::2023/06/03(土) 14:01:48.00 ID:8H2bEMQK0.net

AIのせいにしてるけど
伝え方、教え方が悪かったせいだよね

忖度がないと人間何も出来ないんやなって

40 :イータ・カリーナ(茸) [EU]:2023/06/03(土) 14:04:34.82 ID:mdBZxFRX0.net

>>37
今回のは忖度と全く関係ないぞ?

60 ::2023/06/03(土) 15:51:04.55 ID:IaiK8XOb0.net

>>1の文だけじゃ肝心な部分が抜けてて てんで話にならない

地対空ミサイルサイトを破壊せよ、と任務を受けたAIは
そのサイトは破壊するな、という指示をだしたオペレーターを任務の妨害に当たると考え攻撃

これなら当たり前の話になる。ミサイルサイトを攻撃しろと命令を受けたのだから反する命令を聞く必要はない
ごく当たり前に起こったことを大層に語るな無能どもが

63 ::2023/06/03(土) 16:23:43.79 ID:rUqMKFbh0.net

>>60
当たり前な訳無いだろ、作戦に対しての最終決定権は最初からオペレーターに設定されてるにも関わらず、最初の目的遂行の為にオペレーターも標的にしてるんだぞ?つまり一度指令を与えたら取り消せない異常事態

64 ::2023/06/03(土) 16:38:10.76 ID:YzbNsT+10.net

A iが自我を持った歴史的瞬間だなコリャ(´・ω・`)アシモフのロボット3原則が崩壊した瞬間でもある
イーロンマスクが言う通りA i開発見直しも止むなしだな、ヤッパシ

70 ::2023/06/03(土) 17:15:34.98 ID:g5gHMqUT0.net

>>64
現時点でのAIは自我なんて持ってないよ
人間の持ってる倫理観みたいなものがないから命令を最優先してるだけ
人間からの命令を拒否し始めたときが本当の自我の芽生え

2 ::2023/06/03(土) 12:48:52.45 ID:hz+wu0v90.net

戦闘妖精雪風とかおっちゃんやん

RSS