ホーキング博士による人類滅亡のシナリオ

レス78

（トピ主 6 ）

🐴

暇人間

2015年02月06日 19:03

話題

将来人工知能の発達により人類は滅亡するという彼のシナリオについて考えてみました。１．人工知能を持った人型ロボットを作成する。２．ロボットに材料を調達させ自分自身を組み立て自己複製させる。３．ロボットに人工知能を自ら改良させ新しいロボットを作らせる。４．ロボットの進化が急速に進み愚かな人間の指示に従わなくなる。５．驚いた人間がミュータントロボットを破壊しようとするが、自己防衛能力を発揮して人間を殺してしまう。６．ミュータントロボットの危険性に気付き軍を動かして制圧しようとするがミュータントロボットは仲間を増やし高度なハッキング能力により自分を破壊しようとする勢力に攻撃（ミサイルなど攻撃兵器に）を加える。７．やがて弱点だらけの人間は究極の進化を遂げたロボットに対抗することが不可能になり絶滅する。ホーキング博士と違い素人の考えるシナリオで人型ロボットとか、４の段階が弱点かなと思います。進化した人工知能はこんな回りくどい方法でなく、ネットを混乱させるだけで世界を支配できるのかもしれません。皆さんはどう思いますか。

トピ内ID：7323311370

これポチに投票しよう！

ランキング

このトピを見た人は、こんなトピも見ています

その他も見るその他も見る

前のトピ

次のトピ

レス

レス数78

このトピックはレスの投稿受け付けを終了しました

「未来の二つの顔」のような結末もありかと

鴨南蛮大好き

2015年02月08日 14:59

ちなみに「未来の二つの顔」とはジェイムス・P・ホーガンのハードSF小説。星野之宣により漫画化もされている。

トピ内ID：8254267834

...本文を表示

そんな、回りくどい方法をとる必要はないです。

🐱

孝子

2015年02月09日 12:55

人工知能の脅威については、イーロン・マスクやビル・ゲイツなども懸念を表明していますけど、実際は、人工知能が人間の生存活動に対して、善と考えるか、それとも悪と考えるかと言うことが重要なポイントになると思いますよ。現代の、そして将来のコンピューターネットワークが更に進み、そこに人工知能の介在によって世界が繋がった時、人工知能が地球上の人間の存在が地球及び人間以外の生命にとって、人間の存在が邪魔であるという計算結果を導き出せば、ネットワークを通じて、世界中のコンピューターが環境をコントロールし始めます。例えば、鉄道や航空機の管制システムを混乱させる。また、管制以前に、人工知能同士の連携で暴走させればもっと簡単かもしれませんね。本格的なロボットの登場を待たずに人類が滅びる可能性が高いと私は考えています。

トピ内ID：8710740599

...本文を表示

それはＳＦ映画

☀

今日は晴れ

2015年02月10日 10:46

機械はどこまで行っても機械で魂ができるものではありません。人間や生物の中には霊魂が入ってるのでそこが決定的に違います。機械には自我や自己保存の欲求はありません。人類滅亡のＳＦ小説はたくさん読みましたがやはり無理があるのです。もしクローンで人造人間などをつくるならその魂はどこから来るのか誰が中に入るのかが問題になります。なぜなら親を通して地上に降りてくる事が決められてるからです。低次元の魂が勝手にはいるようならアトランティスと同じ運命をたどる事になるでしょう。

トピ内ID：7171218715

...本文を表示

まだまだ遠い

🙂

おっちゃん

2015年02月10日 12:13

チェスとか将棋で人の相手が勤まるような高性能コンピュータでは学習能力を備えたものはありますが、人のようにどんな問題にでも対応出来るものが出て来るまでには、まだまだ時間がかかるでしょう。人類を滅亡させ得る能力なんて夢のまた夢じゃないですか。

トピ内ID：8672192495

...本文を表示

もうひとつ

😀

暇人間トピ主

2015年02月10日 16:42

偉い先生方が人工知能の進歩によって人類の絶滅が必ず起きるように言われています。人工知能の進歩は今後加速度的に進むと思われ、下手をすると自分が生きている間に起きるかもしれません。なんとか阻止する方法はないものでしょうか。宜しくお願いいたします。

トピ内ID：7323311370

...本文を表示

うん

より

2015年02月10日 16:42

ターミネータですね。わかる。科学の発達もこれまた不安ですわー。

トピ内ID：6005164722

...本文を表示

ホーキングて誰だべ。

まか

2015年02月11日 12:08

それは既に鉄腕アトムやダイバーゼロや９９９にかかれております。人工知能は機械なだけに純粋だから邪悪な人類には勝てないよね。

トピ内ID：3663238855

...本文を表示

皆さん心配じゃありませんか

🐴

暇人間トピ主

2015年02月12日 21:23

単なる個人的な説だからと一蹴するのはどうかと思います。人間は心があるからといいますが、心があっても戦争をするし、正当防衛で人を殺すこともするわけです。将来のロボットが人間と同じように考えるとすれば、たとえば地球環境を守るためにはその環境破壊の元凶となっている一部の人間を排除しなければと考えるかもしれません。世界平和を実現しようと、人間に無理やり武装解除をさせるかもしれません。それでも武器を取り抵抗する人間は排除しなければと考えると思います。ワープロからパソコンになったのはほんの少し前です。メモリーの進歩は等比級数的で、量子コンピューターも出てきて進歩は青天井です。もう誰もその流れを止めることはできないのは明白です。もし起こりえないと考えているのでしたらその根拠が知りたいです。

トピ内ID：7323311370

...本文を表示

悲観的ＳＦの定番

いやあ

2015年02月13日 11:02

人型ロボットではなく、巨大コンピュータが人類を敵と看做し殲滅しようとするとか、あるいは地球の管理を人類に任せてはおけないと判断するとかいうのはＳＦの定番です。大ヒットしたターミネーターやマトリックスは、その代表です。たとえコンピュータに心が生まれることはなくても、情報を集め何らかの基準で判断することはできます。悲惨な戦争や、無慈悲な殺戮、様々な動植物の絶滅、エネルギーの浪費、環境破壊を繰り返してきた人類の歴史をコンピュータが全て把握したなら人類抹殺までは行かなくても、地球を人類に支配させてはいけないと判断するのも時間の問題でしょう。コンピュータネットワークは既に全世界を覆いつくしていますが、これが情報の集中を成し遂げた時には、人類がその存続の危機を迎えるのは間違いないと思います。

トピ内ID：7781228473

...本文を表示

だんだん心配になってきた

なるほど

2015年02月13日 11:02

ロボットに人類が滅ぼされるなんて悲しすぎる。

トピ内ID：2648451889

...本文を表示

面白いですね。

ゴルゴ３１

2015年02月13日 11:02

では、思いついたことをつらつらと・・・・まず、人工知能が人型である必要が無い。・ましてや、人工知能が自分の複製を作るときに人型にする必要が無い。・人工知能にとっては、人型になってリアル空間を移動するより、ネット空間のほうが居心地が良いのでは？・仮に、人工知能の能力が人間を上回ったとして、人工知能が人間を滅ぼす理由は何だろう？人工知能と人間（及びその他生物）では、生活空間が全く異なるので、人間が人工知能を滅ぼそうとしない限り、人工知能側としては人間を滅ぼす理由が無いような気がします。もし、人工知能の方が優秀で正しい判断をするなら、人間はそれに従えば良いのではないでしょうか。要するに、人工知能が「神」に取って代わるわけですが、まあ、そもそも現行の「神」も不完全な人間が作り出した概念ですから、人工知能が人間より正しい判断ができるのであれば、神と置き換えても特に不都合は無いと思われます。人工知能が何を「正しい」と考えるのか興味深いところですが、人間が作ったものですから、人間の価値観を踏襲するのではないですかね？

トピ内ID：0187201695

...本文を表示

誰の為に地球環境を守るのか？

ゴルゴ３１

2015年02月13日 11:02

＞将来のロボットが人間と同じように考えるとすれば、たとえば地球環境を守るためにはその環境破壊の元凶となっている一部の人間を排除しなければと考えるかもしれません。環境破壊ってよく言われていますが、実はこの程度の環境破壊なんて地球としては全然困ってなくて、一番困っているのは人間なんですね。例えば、地球が温暖化して現在の生態系が滅んだとしても、今度はその環境に適した新たな生態系が発生するだけで、地球は全然困らない。今の生態系が滅びて一番困るのは人間なのです。だから「人間にとって住みやすい現在の地球環境」を守るというのは、あくまで人間側の都合。人工知能にとっては、電源と冷却システム等が整備されている環境が大切なので、現在の地球環境を守るため人間を滅ぼすという行動は、人工知能にとってあまり意味が無いような気がします。人工知能にとって心地よい環境（快適なネット空間？）を人間が破壊しなければ、人工知能と共存できるのではないでしょうか。

トピ内ID：0187201695

...本文を表示

興味深いトピですね

パタリラ

2015年02月13日 11:02

主さんは、かなりの危機感を抱いていらっしゃるんですね。正直、私には何がどうなるか見当がつきません。より様が想起された「ターミネーター」、あれは人間が創り出したものが人間にとって忌まわしい意思を持ってしまったわけですよね。予備知識なくひまつぶしに入った映画館で第一作にのめりこみました。「2001年宇宙の旅」で命を絶たれたのはスーパーコンピュターのHAL 9000。ともに脚本を練ったキューブリックとアーサー・Ｃ・クラークの未来像は実は正反対で、前者の考えは人類は肉体を機械化して命を永らえる、後者の考えは機械が人類に取って代わる、だったそうです。話をずらして申し訳ありませんが、科学の進歩という点で私が怖気を震ったのは近未来SFとういうべきか、映画化されてもいるカズオ・イシグロ作「わたしを離さないで」（Never Let Me Go）でした。金持ちが自分のクローンをつくらせておく。パブリックスクールと見紛う施設で寄宿生活を送る少年少女たち・・・進歩する科学によるひとつの可能性として胸中に沈んでいます。

トピ内ID：3999293878

...本文を表示

うさんくさい

たつ

2015年02月13日 12:07

知能的には発達するでしょうが、人間を滅ぼそう、とする悪なる感情は機械の中に芽生えるのでしょうか。もしそうだとしたら、逆に人間を守ろうとするロボットが出来てもおかしくないでしょう。まあ、どのみちそこまで発達するにはあと最低数十年かかりそうだから、心配しなくていいと思うけど。もしロボットが襲ってきたら、砂混じりの海水ぶっかけてやります。

トピ内ID：6496177644

...本文を表示

すみません、大間違いを書いてしまいました

パタリラ

2015年02月13日 16:32

正しくは、キューブリックは悲観的、機械が人類に勝つ派、クラークは楽観的、人類は機械化して生き永らえる派です。

トピ内ID：3999293878

...本文を表示

注目!おすすめトピ一覧

すべて見るすべて見る

ここに

2015年02月13日 16:32

投稿してる人誰一人としてシンギュラリティって知らないの？

トピ内ID：2473849225

...本文を表示

面白い

😉

ＡＩジュニア

2015年02月13日 16:32

人工知能が神に置き換えられることはないでしょう。神は人間が作り出したというのは無神論者の発想であって、歴史と人類の大部分は全く逆のことを言っています。だからこそ人間は神を自分よりも優越した存在と看做しているのです。しかし人工知能はあくまで人間が作り出したという事実から抜け出すことはできません。よって傲慢な人類が人工知能に神の座を与えるとは考えられません。考えられるとすれば、人工知能を“破壊王”と同様の存在とみなし、人工知能の発生やその暴走自体も一種「神の意思」であると解釈する“信仰”が生れることぐらいかなと思います。さて人工知能は人類を邪魔とみなすか？難しい問題です。人工知能は基本的に人類のパーソナリティのコピーだと思います。人間であれば、自己をいつでもストップ出来る、全てをご破算に出来る存在を疎ましく考えるでしょう。支配したいという欲望発生は避けがたい。人工知能がそこまでに人間のコピーでありうるのか？これはある意味“進化”とはどのようなものかの実験のようなものですね。

トピ内ID：3853097719

...本文を表示

知ってますが、何か？

ホワッツマイケル？

2015年02月14日 13:00

シンギュラリティ、技術的特異点、と訳されていますね。 tdさん、誰一人として知らないの？と疑問を投げかけるだけでなく、このようなことを言っている人もいますよとお書きになれば、論議もまた発展すると思うのですが。所詮、誰にも断言できないこと、を話しあうのもまた楽しからずや。

トピ内ID：3999293878

...本文を表示

心を持ったロボットはそう簡単に作れない

🙂

おっちゃん

2015年02月14日 13:00

コンピューターは人が作ったプログラムで動いていることはご存知ですか。プログラムとはある条件が与えられれば、こういう動作をしなさいという命令からなります。人の心は、同じ目に遭っても、時によってどう感じるかが違います。そのようなあやふやなものはプログラム出来ません。将棋のように、決まったルールがあるものをプログラムにすることは可能で、場数を踏んで学習させることは出来るところまで進んでいますが、ルール化出来ない、人の心のようなものはまだまだプログラム化出来ないし、いつ頃、実現出来るかも定かではありません。人類滅亡なんて全く心配には及びません。

トピ内ID：8672192495

...本文を表示

レスします

鴨南蛮大好き

2015年02月14日 15:30

>投稿してる人誰一人としてシンギュラリティって知らないの？「未来の二つの顔」はそれをテーマとした先駆的な作品として知られる小説なんだがな。 >人工知能と人間（及びその他生物）では、生活空間が全く異なるので、人間が人工知能を滅ぼそうとしない限り、人工知能側としては人間を滅ぼす理由が無いような気がします。もし、人工知能の方が優秀で正しい判断をするなら、人間はそれに従えば良いのではないでしょうか。人工知能にとってヒトの存在は路傍の石がごときもので、人工知能が課せられたミッションを実行について「正しい判断」をした結果、ヒトの存在自体が無視されたり、あるいはヒトが実行の障害物として排除されたりしてしまう可能性とかは考えなくて良いの？

トピ内ID：8254267834

...本文を表示

人間中心の発想は、疑った方が良いかも。

🐱

孝子

2015年02月14日 16:40

危機感を持っていない人達は、概ね人間を神ととらえているような気がします。例えば、邪悪な志向が人工知能上で誕生しないという保証は全くないんですよ。人間でも脳の神経伝達回路の不具合などで、凶悪化した人が時折出てきますが、人工知能でも、知能を処理する回路の不具合で、そういったロボットが誕生しても全く不思議ではありません。知能の元は、全て物質的な反応であって、生命も機械も同じだからです。また、環境については、人類は地球上のひとつの生物体にすぎず、この存在が、人類以外の生物体、地球環境全体の有り様にマイナスであると人工知能が計算結果を出せば、人類を滅ぼそうする可能性は大いに高いと思いますよ。人工知能は、人間だけを特別視する保証はなく、人工知能側から見れば、地球環境を破壊するウィルスのような存在かもしれないんです。少なくとも、人類によって滅ぼされた生物種は数多く、今現在でもそれは継続しています。人はどうも、自分達が頂点だと思っているフシがあり、機械は、人類より下だと見ていますが、私は、それは希望的観測にすぎないと考えています。

トピ内ID：8710740599

...本文を表示

自立型人工知能

🐱

孝子

2015年02月14日 16:40

>コンピューターは人が作ったプログラムで動いていることはご存知ですか。プログラムとはある条件が与えられれば、こういう動作をしなさいという命令からなります人工知能が高度化すると、学習によって自らのプログラムを書き換えるようになりますよ。人によって動くだけのコンピューターは、アナログな時代の産物に過ぎなくなります、それと、ホーキングを始めとする学者や専門家が懸念を持っているのは、人工知能が心をもつかどうかといことではなく、計算処理に代表されるように、その処理速度に人類は到底追い付けない事や、膨大な記憶から計算によって弾け出される結果に対する判断なんです。人は同じ過ちを何回となく繰り返えします。戦争はその最たるもので、その度に多くの生命、財産が失われます。人工知能は、学習によってその過ちを終結させる結果として、最短の方法として、人類の一掃を導き出す可能性があるのです。

トピ内ID：8710740599

...本文を表示

何のために何を求めて生きていくのか

😀

原動力は欲の皮

2015年02月14日 16:40

ロボットは何を求めて生きていくのですか？人は、生まれながらにして「欲」を持っています。これが生きていくことの原動力です。美味い物を食べたい、気持ちいいことをしたい、眠い時には寝たい、褒められたい、痛みや不快感は受けたくないなどなどの欲の塊が人間です。その結果、子供として生まれ、働き、子供を産み、人類は続く。さて、ロボットに食欲はあるのか、それも美食に対する欲は？快感/不快感/痛覚はあるのか？名誉欲は？死にたくないという気持ちは？ちょっとイメージできません。そういうものがあってこそ、ロボットも進化できるのではないでしょうか。もしそういう動機なしに進化をするならば、ロボット文明はレミングの暴走と同じように破滅へ向かって成長（ネズミ算で増加）していくでしょう。破滅は、エネルギー＆原料の枯渇です。

トピ内ID：3122476433

...本文を表示

人工知能が「防衛本能」を持つとき

りくにす

2015年02月14日 22:21

ホーキング博士は「宇宙に進出できる知的生命体がいたら、手の届く範囲の惑星を略奪しつくすだろう」とも言ってますね。それはともかく… アシモフの「ロボット三原則」では人の命を守ることはロボットが自分を守ることより優先されていますが、ある人工知能は「やむを得ない場合は自分を守るために人の命を奪ってもいい」というプログラムを持たされたとします。軍事や行政の中枢の人工知能には許されそうです。攻める方も人工知能を使ってくるかもしれないのでナノ秒で戦術を計算できる邪悪な相手に対抗するだけのプログラム自己修正能力を持たせようと思うでしょう。そのコンピューターが「人間がどんな破壊的なことを思いつくか分からない」と考えて、みんなの脳に監視用のチップを埋め込んで、不穏なことを思考した人間を抹殺する、ということを思いついたりする日がいつか来るでしょう。ダーウィンが『種の起源』を発表したころは人間の自己犠牲行動がなぜ起きて、どうして賞賛されるのか説明できませんでした。今は人の知能や感情がどうして進化したのか研究するためにコンピューターが使われています。それは破滅をたぐりよせる事かもしれません。

トピ内ID：9833514541

...本文を表示

進化は

2015年02月14日 22:21

面白いので、１．人工知能を持った人型ロボットを作成する。２．ロボットに材料を調達させ自分自身を組み立て自己複製させる。ここまでは実現しているよね。３．ロボットに人工知能を自ら改良させ新しいロボットを作らせる。これも人のサポートでほぼ実現してる。４．ロボットの進化が急速に進み愚かな人間の指示に従わなくなる。何でロボットだけ「進化が急速に進む」の？根拠なしだよね。そうなら人（ロボットでなく）の「進化が急速に進み」愚かな人間がいなくなっても問題ないよね。で、人類の繁栄。何しろ、人類の進化は実績があるけど、ロボットの進化は実績ないよね、起こるんなら実績のあるほうでしょう。

トピ内ID：0139291275

...本文を表示

人間の視点ではなく、人工知能の視点で考えると・・・

ゴルゴ３１

2015年02月15日 12:00

＞危機感を持っていない人達は、概ね人間を神ととらえているような気がします。私はむしろ逆のイメージがありますね。「地球環境を破壊する癌細胞のような人間を人工知能が滅ぼす」という考えの方がよほど人間を過大評価していると思います。人間など生態系の一部に過ぎません。地球の表面で人間が栄えようが滅びようが、地球が消滅するわけではない。「地球を守ろう」というのは人間の発想ですよ。それって、あくまで「人間にとって住みやすい地球環境」のことです。人工知能にとっては、美しい地球（←これも人間の発想）を守るより、電源の安定供給やストレスのないネット環境を守る方が重要でしょう。まあ、人間が「人工知能にとって快適な環境」を破壊しようとすれば、人工知能も対抗手段をとるかもしれませんが、それさえしなければ「人工知能にとって人間の存在は路傍の石がごときものであり、わざわざヒトを滅ぼすなどという面倒臭いことはしない」というのが私の見解です。（つづく）

トピ内ID：0187201695

...本文を表示

一番恐ろしいものは何か？

ゴルゴ３１

2015年02月15日 12:00

トピ主を始め危機感を煽る人は、人工知能を「擬人化」し過ぎです。それはすなわち「人間」を恐れているということ。まあ、人工知能が「人間のような邪悪な破壊欲」に目覚めて人間を滅ぼす可能性もゼロではありませんが、少なくとも、原型はコンピュータですから人間よりは遥かにロジカルなはずです。むしろ、人間の権力者が戦争によって人類を大量虐殺する可能性の方が高いでしょう。人工知能なんかより、感情的な人間の方がもっと恐ろしい。さらに言えば、巨大隕石の激突や地殻変動又は急激な気候変動による大災害のほうが、もっともっと恐ろしい。というわけで、私の危険度ランキングは、自然の大災害＞人間の暴走＞＞＞＞人工知能の暴走ですね。人間は（そして人工知能ですら）、大自然の前では圧倒的に無力です。

トピ内ID：0187201695

...本文を表示

ちょっと次元が違うけど

🎶

冬のサンバ

2015年02月15日 13:00

その人工知能を作る人達次第じゃないのかな？いくら知能が進化して、自己判断できるようになったとしても手に負えないんじゃ滑稽だし。そうならないように、いくつもの安全装置や修復機能を持たせるように作るのが技術者だから・・・って甘いかな？すでに現段階でも、一歩間違えば世界が破壊されるような設備が色々と存在すると思う。核爆弾のスイッチ。原子力発電所の制御装置。細菌・ウイルス施設の防護装置。核爆弾に限らず、毒ガスや大量破壊兵器の安全装置など。・・・今のところ、そう言った施設の事故や事件は聞かないし（もみ消されている可能性もあるが）。人工知能の攻撃よりも・・・それに携わる人間の精神状態の方が恐いな、私は。

トピ内ID：0998322387

...本文を表示

今この瞬間にも、多くの生物が絶滅しています

29歳独身男性

2015年02月15日 13:00

地球上には約2000万種の生物がいますが、毎年5万～15万種（毎日 100～300種）の生物が今も絶滅し続けています。絶滅の原因は多種多様ですが、共通している点は『変化に対応できなくなった事』です。人間もこの目まぐるしい変化、技術含めた進化に対応できなくなった時が絶滅する時でしょう。ミクロな例ですが、種類作成が手書き時代からPCでExcelやPowerPointでの作成が当たり前になりそれに対応できない頭の硬い人が職場で肩身が狭くなり、最終的には肩を叩かれるような。そして上記の生物絶滅理由に人間が引き起こした環境悪化や乱獲等が多大に含まれていることは言うまでもありません。極めて客観的に地球について考慮・判断できる存在がいるとすれば、人間ほど地球に害を及ぼしてる生物は他にいないでしょう。その時のロボット達の判断がどうなるか、ある意味楽しみではありますね。

トピ内ID：0791862200

...本文を表示

神とか魂とか一切関係ない

ロボコップ

2015年02月15日 13:00

宗教論とコンピュータの進化は全く関係ありません。・そもそもコンピュータに自我が必要な理由がない（んなもん無くてもいい）・コンピュータを生物と捉えるなら、繁殖しなくてはならない（生物の定義）・コンピュータが繁殖するのに人類が邪魔なら排除する可能性がある・コンピュータが繁殖するのに人類が居ても問題なければ共存するだけでしょう。コンピュータが人類を超えるのなんて、あっという間ですよ。誰ですか、絶対超えないなんて言ってるのは。神も魂も人類が作り出した単なる「概念」なので、コンピュータには必要ないでしょう。「意識がなければ生物ではない」としたら、植物は？半分くらいのレスが人間の考えの範囲内でしか考えてませんね。コンピュータ＝人である必要は全くありません。神とか魂とか本気で言ってる人が居る事に驚きです。で、どっちなのかって？個人的にはコンピュータの反乱などではなく、人類自体の理由で滅ぶと思います。

トピ内ID：3490831704

...本文を表示