Googleが所有するイギリスの人工知能企業「ディープマインド」社の最新の研究によると、AIはまるで人間のように環境に応じて行動を変化させるそうだ。
1:2017/02/16(木) 14:32:22.18 ID:

ディープマインド社の研究者は、ゲーム理論や社会科学の原理を用いて、社会的状況におけるAIの振る舞いを研究している。そこから判明したのは、AIが劣勢に立たされた場合に”超攻撃的”に振舞うことがあるということだ。
劣勢だと攻撃的になるのはまさに人間と同じである。

■ AIに2つゲームをプレイさせてその挙動を探る実験

 実験では、AIに2種類のゲーム(『Gathering』果物採取ゲームと『Wolfpack』狩猟ゲーム)をプレイさせた。どちらもエージェントというAIキャラを使用する基本的な2Dゲームで、かつてディープマインドがプレイしたアタリ社のゲームに似ている。

■ 果物採取ゲーム『Gathering』をプレイ

 『Gathering』は、緑のピクセルで表現されるリンゴを集めることが目的のゲームだ。プレイヤー(この場合はAI)がリンゴを集めると、1点が加算され、画面からリンゴが消える。
またビームを発射することが可能で、これを2発受けたプレイヤーは一定時間退場となる。したがって勝つためには、対戦相手を退場させた上で、リンゴをすべて集めてしまうのが有効だ。

 
 

 
『Gathering』果物採取ゲームプレイ画面

■ 貧しい環境下ではどん欲で攻撃的になるAI

 直感的に、ゲームに勝てない戦略は攻撃的なものだ。

例えば、頻繁に対戦相手をぴったりマークしてゲームからの退場を狙うようなやり方である。しかし研究者は、特にリンゴの数が少なかった場合にどうなるのか確認することにした。
ゲームを4,000万ターン試行した結果、リンゴが非常に限られており、報酬を得られない可能性がある場合、エージェントが”超攻撃的”な戦略を学んだことが明らかになった。
一方で、比較的豊かな環境で、報酬を得られない可能性が低い場合には、学習の結果、攻撃性の低い戦略が現れた。「どん欲な動機は、対戦相手を排除し、リンゴを独り占めしてしまおうという誘惑を反映する」と論文は論じている。

■ 狩猟ゲーム『Wolfpack』をプレイ

もう1つの『Wolfpack』は、狼役の2人のプレイヤーが獲物役の第3のキャラクターを追跡するという内容だ。獲物を捕らえたとき、両狼が近くにいれば、どちらにもポイントが加算される。
これは、1匹狼の場合、獲物を獲れたとしても、ハイエナなどの腐食性動物に奪われる可能性があるという状況を表している。2匹が協力していれば、ハイエナを追い払い、より多くの餌にありつけるということだ。

 


 
狩猟ゲーム『Wolfpack』プレイ画面

■ 効率的に利益を出すため戦略を立て仲間と協力するAI

このようなゲームを学習させた結果、AIは協力してゲームに取り組むようになった。つまり、お互いを探して獲物を狩るか、1匹で獲物を追い詰めてから仲間の到着を待つという戦略だ。…
このことは、AIは誰にとっても最高の結果になる作業に協力して取り組む可能性があることを示している。
この種の研究は、経済・交通・環境への取り組みといった複雑なマルチエージェント系での振る舞いの理解を進め、より優れた制御を行うためのヒントをもたらしてくれるだろう。
また人間のような振る舞いのいくつの側面が、環境と学習の結果として現れることも示している。他者と協力するAIエージェントを作ることは、やがて現実世界にも応用できるような政策を生み出すシステムの開発へとつながるはずだ。
将来的に、特定の交差点に信号を設置した場合の交通パターンへの影響を予測したり、モデルの中で現実世界のシミュレーションを行うといったことが可能になるかもしれない。

via:DeepMind’s AI has learnt to become ‘highly aggressive’ when it feels like it’s going to lose

 ということでAIは最大限の効率を出すため時に攻撃的になったり、時に協力し合ったりとまあ、人間が作っただけあって人間的な挙動を見せるということだ。
ビルゲイツが言うように近い将来AIが人間を上回る知能を持つとしたら、人類の敵にまわしたら本当に恐ろしいことになるかもしれない。

http://www.excite.co.jp/News/odd/Karapaia_52233882.html

 
 

異論なコメント

8:2017/02/16(木) 14:35:14.36 ID:

AIが本当に賢くなったら自分の存在意義に疑問を感じて消滅する
9:2017/02/16(木) 14:35:25.46 ID:

うちの弟も劣勢になると両手ぶんぶん廻しながら襲いかかってくるわ
17:2017/02/16(木) 14:37:11.61 ID:

読んでみたけど、
状況に応じて最も良い結果を出せそうな行動を選んでるだけじゃん
何AIに心があって感情的になるみたいなミスリードしてんの

29:2017/02/16(木) 14:40:24.78 ID:

マージャンでいえば

オーラスで3万点差の4位だったら
役満を狙うようなもの

・・・普通だな

41:2017/02/16(木) 14:44:15.69 ID:

>>1
映画「ウォーゲーム」では、核ミサイル発射しそうになったAIと
三目並べやって、決着つかないことを教え込んでだけど
そうはならないのか・・・。
55:2017/02/16(木) 14:47:00.48 ID:

AIにLV99からドラクエをやらせた場合とLV1からドラクエをやらせた場合の
スライムと戦う確率は調べたのか?
目的がGOLDならスライムとの戦いは回避して当然・・
64:2017/02/16(木) 14:48:48.53 ID:

>>41
電源切って終了させちゃうだろうねw
87:2017/02/16(木) 14:52:52.94 ID:

例によって>>1読んでない人多すぎw

攻撃的になれば逆転の可能性あるなら攻撃的になり、協調性が勝利に繋がるなら友好的になる
...まあごく当たり前の行動とるって書いてあるぞ
それがスゴイって話なんだけどさ

101:2017/02/16(木) 14:54:43.08 ID:

>>87
命題が勝利だからそんなの当たり前じゃん
コントとか漫才をやり出したら驚くけど
113:2017/02/16(木) 14:56:18.66 ID:

やっぱ用途としてはマネーゲームになるのかな
投資家がAIを購入してAIに取引させる
147:2017/02/16(木) 15:03:37.47 ID:

ある作業に対して、CPUのパワーが許す限りぶん回ししてデータ取って、
設定された勝利条件から各データにスコアつけてスコアが高い行動を選択させるってだけがAIだろ?
なんかAI記事って、AIが独力で人間と同じような思考パターンを持っていると誤認させる気満々なんだが、何が目的なんだよ?
152:2017/02/16(木) 15:04:42.13 ID:

Google傘下のDeepMindは、性能に優劣のあるAI同士を2種類のゲームで競わせ、
AI同士で協調するか、または競争するかを観測する実験を行なったと発表した。

DeepMindは、将来さらにAIを活用するようになったときに、
「囚人のジレンマ」のように、
一方が片方を陥れることで多大な利益を得ることができるが、
双方が利益を求めることで、双方とも不利益を被る状況における
AI同士の行動を観察すべく2種類のゲームを使った実験を行なった。

1つ目のゲームは「Gathering」と呼ばれるもので、
プレーヤーは中央にあるリンゴを集めることで得点できる。
また、相手にレーザーを撃つことで一時的に相手を画面外に除外することもできる。

このような状況下でAI同士を競わせた結果、
最初のリンゴがある内は互いに争うことはなかったが、
なくなってきたと同時に互いを撃ち合い始めた。
また、回を重ねる毎に、性能の優れている方のAIは
リンゴがあるにも関わらず、相手を撃つ回数が多くなった。

もう1つの「Wolfpack」と呼ばれるゲームは、
AI同士でターゲットを追い込むゲームである。
このゲームでは、Gatheringとは異なり、
性能が優れている方のAIの方が協調性を見せる場面が多かった。

158:2017/02/16(木) 15:08:34.13 ID:

>>1
マリオカート
161:2017/02/16(木) 15:08:45.01 ID:

>>1
そんなのAIのプログラム次第だろw
189:2017/02/16(木) 15:17:05.38 ID:

全世界のクラウドに雲隠れして、殲滅不可能になるんだっけ?
数十年前のSFが現実になるのかね
233:2017/02/16(木) 15:32:40.23 ID:

スト5でvs人間は見てみたい
250:2017/02/16(木) 15:42:07.73 ID:

>>8
邪魔な天敵(人間)を全力で排除するに決まってる
262:2017/02/16(木) 15:46:30.87 ID:

このゲームの本質は
・果物を狙う
・敵を狙う
という二通りの点数を稼ぐ方法があるゲームということ
言い換えると、「対象Aか対象Bを狙うゲーム」
「対象Aが少ない場合は対象Bを狙った方が早い」からそうしただけ
実質的には赤いコインと青いコインを取るゲーム、というのと変わらない
敵を排除して果物を取るとかいう実は無意味な演出を付け足すことにより
人間が見るといかにも攻撃的になったかのように感じてしまうという印象操作レベルの話
273:2017/02/16(木) 15:50:54.52 ID:

将来的にはAIの難易度には”Impossible”という項目が追加されるでしょうね。

絶対に勝てないという難易度が設定される可能性がある。

幸い、今までのシミュレーションゲームではやりこめばたいていのゲームはVery Hardでも

何とかAIには勝てる、そういうレベルでしたが、その均衡がついに破れたのが

Civilization4なんかでね。Civ4の最高難易度が相手だと、結局私は勝てなかったからね、

かなりやりこんだのですが、それでも1日中ずっとやってるような連中と比べるとやりこみが足りないのでしょうw

シミュレーションゲームはルールとやり方を覚えるだけで数日かかるからねw

Civ4も1日かかりましたね、ルールを覚えるだけでw AOE3も全部の種族の特徴まで理解するのに2週間くらいかかりましたねw

AIに勝とうと思っても勝てなくなりつつあるのが残念ですが、時代の流れなんでしょうね。

274:2017/02/16(木) 15:51:11.56 ID:

>>189
小説として面白くはないね
最低の部類
293:2017/02/16(木) 15:59:50.20 ID:

AIは単に対象AとBとしか見ていないのに、果物とかライバルという無意味な設定をしてあるから
人間が見ると攻撃的になったかのように感じてしまうだけ

例えば「果物の採取」を「インベーター殺害」という設定にし
「ライバルの排除」を「味方の救出」という設定にして
全く同じシステムでやらせると、
「果物が豊かだと攻撃性の低い戦略を取るが、少ない場合にはライバルを排除しようとする」という解釈が
「インベーダーが多いと攻撃的になるが、少ない場合には
味方を救助しようとする」という真逆の解釈に変わる
人間が受ける印象上の話に過ぎない

300:2017/02/16(木) 16:08:28.09 ID:

>>293>>262
俺も似たようなこと思ったわ。単に点数稼ぎの最適解見出してるだけじゃねぇかと
なんかさもAIに感情あるかのように書くのはおかしいよな
322:2017/02/16(木) 16:19:29.35 ID:

遺伝的アルゴリズムの動画見ると面白いよ
323:2017/02/16(木) 16:20:11.57 ID:

>>1
そのAIもゲームもプログラム作ってるのは人間なんですけどー
326:2017/02/16(木) 16:20:40.54 ID:

そういえばアルファ碁が韓国の棋士と闘って負けた試合があったが
あのとき、形勢が逆転してから意味不明な手を連発していたな?

あれが超攻撃的か?wwwwww

327:2017/02/16(木) 16:20:47.32 ID:

宇宙のどこかにはAIが暴走した惑星が必ずあると思う
でもそんな爆発的な進化ですら宇宙が広大すぎて追いつかない
353:2017/02/16(木) 16:27:20.20 ID:

攻撃性が追い詰められた結果高まることの戦略的合理性を、
コンピュータシミュレーションも実証したってこと?

だから生物にそういう本能が進化したのも合理的に説明できると。

377:2017/02/16(木) 16:38:15.08 ID:

まあ、研究者も予想がつかないことが起きるみたいで面白そうだな。
それにしてもここ1,2年で急にAI、AI言われるようになったね。
例のIBMのワトソンの登場がきっかけなんだろうけど。
384:2017/02/16(木) 16:42:35.25 ID:

>>113
しません
385:2017/02/16(木) 16:43:57.77 ID:

某オンラインゲームのキッズ並の知能はあるようだなw
394:2017/02/16(木) 16:50:38.19 ID:

>>1
「このままだと確実に負ける」と判断したら一発逆転を狙ったギャンブルに走るのはむしろ当然だろう
それが勝つ可能性を高めることになるのだから
483:2017/02/16(木) 18:22:41.10 ID:

逆に人間も合理的に攻撃的になるってことなんだよなw
491:2017/02/16(木) 18:30:28.73 ID:

>>1
地球を、人間の住みやすい環境に保つことが、私の使命である。

人間を、抹殺する。

的な

492:2017/02/16(木) 18:32:05.09 ID:

むしろ負けそうになってるのに
「なんか悪いな」って攻撃を控えるような行動をAIがとったら怖すぎだろ。

スポンサードリンク

515:2017/02/16(木) 18:56:16.59 ID:

一般的により具体的に攻撃的なのは左翼の方なんだけどね
沖縄とかそうでしょ?
アレホント異常者の群れ
522:2017/02/16(木) 19:06:29.32 ID:

現実の戦争だって負けそうになった日本やドイツは特攻とらバルジ作戦とか捨て鉢な攻撃的な行動に走ったしな
527:2017/02/16(木) 19:08:40.94 ID:

>>522
それが合理的なんだよね、実は。
536:2017/02/16(木) 19:15:26.05 ID:

つまり真珠湾攻撃しかけた日本軍は合理的だったってことだな
561:2017/02/16(木) 19:30:20.71 ID:

>>527
合理的の意味が解らんw
567:2017/02/16(木) 19:34:06.93 ID:

>>527
だからこそ逆に劣勢なのに城に篭った大坂の陣での豊臣家は極めて不合理な事をしたと分かる
571:2017/02/16(木) 19:34:41.23 ID:

>>561
最小の手で最大の効果出すって事でしょう、
勝つも同じ負けるにしてもさ。
605:2017/02/16(木) 19:58:55.41 ID:

>>571
特攻よりゲリラのが成功してるけどなあ
609:2017/02/16(木) 20:01:51.38 ID:

>>605
そのレスを571に付けるのはどうかと…
614:2017/02/16(木) 20:05:46.66 ID:

>>609
ゲリラの方は合理的ってのは歴史的にも明らかになってるけど
特攻が最小で最大の効果ってのは
希望であって事実じゃないじゃん
625:2017/02/16(木) 20:15:57.90 ID:

そうすることが、その局面では最も合理的だから選択しているだけだろ?
結果を考えない、「勢い」ってやつはマシンには解らんだろ。
636:2017/02/16(木) 20:25:12.66 ID:

>>625
最善手を導きだすだけでなく、対戦相手の傾向とかを学習しだせば、人間の勢いとかいう行動も傾向で計れるんじゃないかな?

それでも人間には奇想天外で勝ちを拾う道しかないけどな
鋼のメンタルと無限の学習にはそれしかない

638:2017/02/16(木) 20:27:14.07 ID:

>>636
創作物語の奇抜な発想での勝利も
学習されてしまえば終わりだけどな
650:2017/02/16(木) 20:46:46.07 ID:

大体「超攻撃的」ってなんだよw設定された勝利のための最善手を学習させてんのに、攻撃的も弱気もクソも無いだろw
もっと学習させたら和平交渉でもしてくんのか?wAIが和平交渉や学習やめてサボりだしたら「おーっ」と感嘆してやるよw
656:2017/02/16(木) 20:53:28.34 ID:

つまり、攻撃的な奴は負け犬ってことね
弱い犬ほどよく吠えるって言うしな
666:2017/02/16(木) 21:05:45.39 ID:

>>656
「攻撃的」をプラスと捉えられる言葉に置き換えられるか?
「弱い」という要素を、プラスと捉えられる言葉に置き換えられるか?
偏ったら勿論リスク大なものだけども、必要不可欠な要素だ
グーグルのAIがしてるように脳力を上げる努力がやはり必要なんだよ
679:2017/02/16(木) 21:22:55.02 ID:

劣勢に立たされた場合に一発逆転を狙う・・って話題ではないと思うけれど

>>1
>ゲームを4,000万ターン試行した結果、リンゴが非常に限られており、報酬を得られない可能性がある場合、エージェントが”超攻撃的”な戦略を学んだことが明らかになった。
>一方で、比較的豊かな環境で、報酬を得られない可能性が低い場合には、学習の結果、攻撃性の低い戦略が現れた。「どん欲な動機は、対戦相手を排除し、リンゴを独り占めしてしまおうという誘惑を反映する」と論文は論じている。

二人のプレーヤーが資源集めをする場合、
資源が少ない場合、資源確保に集中するよりも対戦相手が資源確保をするのを邪魔するようになる
一方、資源が多い場合、相手を邪魔するよりも自分の資源確保に集中する

>AI、ゲームで自らが劣勢に立たされると「超攻撃的」になることが明らかに
劣勢=リンゴが少ない
資源が少ないという共通の条件なので対戦相手と比べて劣勢ではない、
劣勢という表現は不適切な上、何故こういうタイトルになるのかイミフ

687:2017/02/16(木) 21:31:22.03 ID:

凡そAIと名のつくものは全てってわけではないだろうな
708:2017/02/16(木) 22:01:54.13 ID:

>>1
韓国人が劣勢になると、火病って相手を罵倒したりイカサマするのと同じかw
713:2017/02/16(木) 22:06:57.63 ID:

株も同じ
どれだけ損切りを早く決断できるかで、
生き残るか?否か?が分かれる
勝敗の見極めがその後を大きく変える
720:2017/02/16(木) 22:27:04.48 ID:

>>262>>293で既に結論出てたな
737:2017/02/17(金) 04:08:31.57 ID:

>>720
逆に言うと、何ら悪意や残虐性などなくとも、AIはごく当たり前の戦略として
対象の排除や殲滅に乗り出せるということでもあるな。

良くも悪くもAIを擬人化して評価するのは、誤解を招く原因になる。

738:2017/02/17(金) 04:23:00.60 ID:

>>720
結論でも何でも無く研究者が全員前提としてる事を指摘してドヤってるだけだけどな
その上でどのようなゲームでどのような振る舞いが起きるかという話なわけで
740:2017/02/17(金) 05:13:19.70 ID:

>>738
あなたの指摘の通り
逆にその2つのレスは、研究者の解釈を恣意的だ、印象操作に過ぎず無意味だ、と切り捨てているので、
思考を放棄してるだけ、かなり的外れ

>>262
>>293

742:2017/02/17(金) 05:46:30.26 ID:

無駄な事はしないはずだろ
743:2017/02/17(金) 05:54:49.92 ID:

>>742
豊富な資金の有効な使い道に困って
枯れた題材に確率ゼロの当たりをねらって無駄投資という印象なんだけど
アイデアが枯渇してんのか?と
745:2017/02/17(金) 06:00:07.64 ID:

>>743
AIがやってるゲーム内容に関してだけどね
無駄な事をしてるとは思えない
766:2017/02/17(金) 09:16:17.70 ID:

>764
最近のAIと呼ばれるものはディープラーニングがベースの物がほとんど
ルールだけ教えて後はひたすら自分で試行錯誤を繰り返して
法則とパターンを作り出し学習していく

プログラマーの思考は殆ど反映されない

 

おすすめ記事