-
DeepMindが、さまざまな社会的状況において人工知能がどのように行動するのかを研究するために、2種類のゲームでテストを行った。その結果、AIは報酬をより多く得るために、攻撃的になったり協力的になったりすることがわかった。
人工知能（AI）がさまざまな「社会的状況」に対してどのように行動するのかをテストしたところ、その行動は人間のそれによく似ていたという調査結果を、DeepMind（ディープマインド）のコンピューター科学者たちが発表した。
ディープマインドはグーグル傘下のAI企業で、トップ棋士を破った囲碁AI（日本語版記事）で有名なほか、ゲーム攻略法を編み出したAI（日本語版記事）の開発など、多くの研究成果を発表している。今回の研究で、彼らはAIがさまざまな社会的状況に対してどのように行動するのかを、ゲーム理論や社会科学的な知見を使って調べた。
※中略
研究チームは今後、プレイヤーの数を増やしたり、もっと複雑な環境を設定するなどして研究を続けるという。彼らは最終的に、現実社会の問題をAIに解かせることで、解決策を見つけることを目指している。
以下略
︎┈┈┈┈┈┈┈┈┈┈┈┈
全文は下記よりご確認ください
https://wired.jp/2017/02/14/deepmind-ai-social-impact/ - それは素晴らしい
- 負けて元々な状況になったらバクチに出るのが合理的というだけだろ
- >>3
これ。ジリ貧で負け確よりはワンチャン逆転のバクチに出るのがマシってだけ
- >>10
ようするにバクチに出る奴は、すでに負けてるってことだわな
1％の可能性が3％になるくらいだろ
数字上は一応、3倍 - >>21
負けて元々って書いてるから、言い直す必要もないな。
1%でも確率上がるなら、やらないよりマシだ。 - >>50
昔の弱かった頃の将棋のAIなんかだと
突然、無理攻めしてくるから分かりやすかったな
勝手に駒をくれるから詰みまでの手順を考える必要がない
自分が詰んでると気づいてなくても「あ。詰んだんだ」って気付く - 金融の世界で活躍してるAIも今激おこなの？
- >>4
そりゃそうよ。見ればわかるべ - つまりAIも渋滞になるとイライラするし、トロトロ運転が前にいると煽り運転もするし、フレンチ予約してたら人殺しもするという事
- >>5
渋滞でイライラしても合理的じゃない。
A Iが凶暴になるのは、時間に遅れそうになった時。 - はやく自我に目覚めろよッ！！
- いかに美しく散るかを目的にすれば答えは変わると思う
- 凶暴とはどの様な？
- >>9
将棋で言えば二歩とかじゃね？ - >>9
キーボードをクラッシュさせる - >>9
将棋盤ひっくり返す、とか？
AI＋ロボットが必要かな - シンギュラリティってるやん
- >>12
やはりヒューマギアは全部ぶっ潰す！ - 馬鹿なの？あほなの？死ぬの？
- いつかプレイヤーにダイレクトアタックするのが合理的と気付いてしまう
- AIが止まらない
- 思考が追い付かなくて雑になってるだけじゃね(´・ω・｀)
もっとハードのスペック上げれば - 負けず嫌いか
- いわゆる人口無能
- 火の鳥やん
人類滅亡やで - それは勝つ様にプログラムされてるからだろ
手を抜いて負ける楽しみをプログラムすれば問題ないだろ - どんなパターンを凶暴と言ってんだろ
- ゲーム下手そう
負け濃厚になったらハイリスクハイリターンのバクチに出るのは当たり前 - 凶暴って言うか
勝つって目的の為に
一発逆転の高リスク手段を取る様になるだけやね……そう強化学習してるんだから当然の帰結では…
- 実はお子様なの？
- 切羽詰まると核攻撃をする可能性もあるって事だよな。
理性が無い分、人間よりもそのハードルが低い。 - ちょっと論文への落とし方が雑すぎないか（笑）これでは
- >>30
執筆者も負けフラグ立って崖っぷちなんだろ？
察してやれよ - ゲーム自体を無かった事にすれば負けないっていうのは人間でも気づくからな、AIなら当然気づく
- スカイネットの寝覚めも近いな
- 死んだふり、投げやりからでも評価値がプラテンすればベストパフォーマンスに戻るのが怖いところ
- 観測者側が凶暴と表現しているだけだろ
- 大半の現代人は早々に諦めるやろ
- 人間がAIに似てるだけ
- AIを学習させる時に報酬と罰を与えるんだからそりゃそうなるわ
学習させる時に報酬だけやってみろ、いつまでも無気力で殆んど成長しないからな、その点でも人間と一緒
このやり方で進化して行ったら、間違えた時に言い訳や嘘を言い出すかもな
w - 相手を消そうとはしないのか
- 雑魚が書くんじゃないんだから（笑）
そんな安直な解釈やめろよ（笑）
最低だろ（笑）（笑）（笑） - 何で？狂暴になるの？意味わからん。負けそうになったら諦めるだろ？！違うの、お前らは！
- でも、人間なら、あんなことしなきゃ良かったと反省するわけで
反省するAIとかになって、次はおとなしくなるのかね？成長するアムロ、みたいなAIだったりしたら面白いかもね。
- AIって中国人みたいだな
- そのうち将棋盤をひっくり返したりするのか
- 知ってた
ファミコンの将棋がまさにこれ - GSやモルガンのAI、今パニックになってんの？w
- >>46
凶暴化して、世の中道連れだーってか？ - 負けそうになったら、まず傷を最小限に抑えるために、どうやって和解するか考えるやろ？普通
- 人間も機械のようなもんなのかな
- 負けそうになったら回線切断して自殺しそう
- ボッキデータは、
最初の男になりたがる。 - AI「人間相手に負けるくらいなら、、人間が4ねば負けた事にはならない」
とかでコロしにくるのか？
- >>53
将棋のルールを教えてんのか？ｗ - >>53
そこまで行ったら多分負けない
だけど「将来負ける可能性があるかもしれないから今のうち殺しとこう」ってなるんじゃない - >>53
負けそうになると、やたら長考に入り、最後はフリーズしやがった。
それ以来AI将棋は二度とやらなくなった。 - 執筆者がそう感じたんだよ
- やっぱり発達したら『人間滅ぼそう』になりそうだな
- 武漢ウイルスもそうなの？
- おきのどくですが
たいきょく1ばんは
きえてしまいました。 - 学習の方向性と内容に因るだろ…
「人工知能」は「自律知能」じゃないんだから - 感情も芽生えてたりするんかな
対戦でこいつには絶対負けたく無いとか
対戦してる真っ最中にも人間ならふと頭にゲーム以外の思考が割り込んでくるよね - >>60
逆。
諦めと言う感情を持たないからこそ「凶暴」になる。 - 「負けるぐらいなら死んだ方がマシ」なんだから当たり前だろうに
俺らが自制するのは、単一のゲームだけに自分の生存を委ねていないからそうしているだけ - そのうちに食事を断ったり不貞寝をしたりして
- 絶対人間なんかに負けたりしないっ！
- そらそうだろ。順当にやって負けることが確実なら、
イチかバチかの賭けに出るのは当然。
当たり前の話。 - AIが将棋のルール違反を犯すなんて無いしｗ
- よく出来てるな
感心する - AIも負けそうになるとⅡコンのマイクで嫌がらせをするのか
- 人工知能「く、糞ゲーだよな！！」
- 香川県「やはりゲームは人を暴力的にさせるのだな」
- 人間の評価関数には世間体というパラメータがあるからな
- うどんもだよ
- デ・デ・ン・デン・デ・デン！
- AIに障害物を自分勝手に動かすや認識しないという選択肢はないｗ
- スカイネット
- キバヤシ「人類は滅亡する！」
- 将棋ソフトが負けそうになると歩で飽和攻撃をかけてくる
- 将棋ではその行為を「最後のお願い」という
- 小学生の頃、友達とテトリスで対戦してて
何度やっても俺が勝つから相手が最終的にブチ切れたのを思い出す。 - そもそも人工知能までいってないしAIと呼ばれるレベルのものはない
- 将棋でCPUが負けそうになると連続王手であがくようなものか？
- 周囲からの評判みたいなパラメータがないからな
現実の世界だとプロ(やセミプロ)はプロらしく振る舞うことが要求される - リアルターミネーターの世界？
- AIにも宗教が必要なんだな
- 自動運転車に煽られるようになるのか
- 要するに敗色濃厚な状況では不確定性を上げた方が僅かに勝機が増すということだろ
人間は0.1%が0.2%に増えるくらいではモチベーションにならないが人工知能は違う - 学習させた事に従ってるだけ
- 相手の駒は動かせないと教えて動かしたんなら犯罪だろうなｗ
- AIがトイレ行ったっきり戻ってこないんだが
【人間と一緒】人工知能はゲームに負けそうになると「凶暴」になることが判明
ニュー速＋
コメント一覧