スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。


【おススメ記事】

--/--/-- --:-- | スポンサー広告  TOP

【ロボット開発・AI】ホーキング博士「人工知能は病気や戦争、貧困の根絶に貢献する可能性がありながらも、人類史上最悪の脅威になりうる」

1: :2014/05/11(日) 20:41:08.82 ID:

「人工知能は人類史最悪の脅威」―ホーキング博士
http://news.livedoor.com/article/detail/8819045/

イギリスのノーベル賞授賞物理学者、スティーブン・ホーキング博士が
英インデペンデント紙に語ったところによると、人工知能は病気や戦争、
貧困の根絶に貢献する可能性がありながらも、人類史上最悪の脅威になりうるとのこと。

人間の役に立つと見せかけた人工知能や自動運転の乗り物たちが、
いつか人類の終わりを招くかもしれないと述べ、ロボットの開発に警鐘を鳴らしています!

博士は、アップルの「Siri」やグーグルの「Google Now」、
マイクロソフトの「Cortana」などといったデジタルアシスタントの開発競争は、
数十年後にやってくる時代に比べれば取るに足りないものだとしています。

IBMは人間の脳の認知、行動、思考能力をまねることのできる
センサー・ネットワークの構築につながるスマート・チップを開発。
将来、これにより人間よりも優れた脳を持つマシンの開発も可能になりえます。

博士は、「アービング・グッド(イギリスの数学者)は、
1965年には人間の脳を超える知能が繰り返しその知能を改良して
進化するようになると気づいていた」と述べ、
専門家らはこうした事態に用意が出来ておらず、
「人類にとって最良にも最悪にもなり得る事態に直面しながら、
関連する研究が少ない」との懸念を表明しています



【関連記事】
【宇宙の不思議】ブラックホールは存在しない ホーキング博士が主張
世界で一番IQが高い人物は誰か 一般人でおよそ100、天才は?
【宇宙】地球型の惑星は数十億個、生命存在の可能性も 米研究
【宇宙】火星移住計画、しかし、移住後はあと戻りできないサバイバルが待っている 『マーズワン財団』が希望者約20万人の中から1058人を選定



7: :2014/05/11(日) 20:45:40.53 ID:
アシモフのロボット三原則から
あんま規則ってのがないからなあ
119: :2014/05/11(日) 21:12:30.88 ID:
>>7
ロボット三原則って、ロボットが意思を持つとか自律するとかを前提にして作られてないからなぁ
イヴの時間ってアニメで、それをモチーフにしてて面白かった
10: :2014/05/11(日) 20:46:44.48 ID:
ドラクエ4のAIシステムが終わりの始まりだったのかもしれんぞホーキング
20: :2014/05/11(日) 20:49:21.23 ID:
2035年辺りがコンピュータシステムの変革点らしいね
AIによる支配が始まるかな
22: :2014/05/11(日) 20:49:41.46 ID:
デッドゾーンみたいになるってことか
44: :2014/05/11(日) 20:56:12.06 ID:
人工知能が発達してまず、すること→2ちゃんねるへの書き込み
52: :2014/05/11(日) 20:56:45.15 ID:
人間の場合ハードウェアの進化が無くて内臓できるソフトウェアもその制限から逃れられないから
ハードとソフトがリンクして進化するコンピュータにいつかどこかの時点で負けるのは明らかだな
人間がその進化に追いつくにはコンピュータと直接接続するインターフェイスで脳の機能拡張をするしかない
61: :2014/05/11(日) 20:58:43.53 ID:
てか、ホーキング自体が人工知能なんじゃね?
73: :2014/05/11(日) 21:02:33.46 ID:
10年前に将棋指しのプロはコンピュータ将棋を笑っていたんだよ。それが今、どうだ?
気が付いたときには、もう遅いんだよんww
80: :2014/05/11(日) 21:04:32.79 ID:
まあ株も超高速人工知能取引が当たり前になって
素人のデイトレーダーが駆逐されたからなあ

株取引だと機械のくせに実に嫌らしい手で素人には勝つからなw

まあ、人工知能vs人工知能の戦いだと、
日々行われるアップデートで双方にバグが有ったら、
相場ごと大暴走って危機はあるかもしれんなw

ある意味で、やばいのは確か
93: :2014/05/11(日) 21:07:53.22 ID:
人工知能の最優先命令に
人類の種としての保存と入れておけば
家畜状態かもしれないけど、人類は滅びないんではないかと
100: :2014/05/11(日) 21:08:53.93 ID:
悪意のあるプログラマーが作ったものならそういうこともありえるが、
悪意のあるプログラマーは警笛では止まらないので、警笛を鳴らしても無駄です。
102: :2014/05/11(日) 21:09:16.24 ID:
人間の脳を人工的に作ればいいだけじゃん
人間だって有機物と無機物でできた自然の機械だし
104: :2014/05/11(日) 21:09:31.03 ID:
そりゃ人工知能にとって最大の脅威は人類なんだから
その脅威を排除するのは当然の帰結だろ
105: :2014/05/11(日) 21:09:32.52 ID:
AIは人類を滅亡させるようなことはしないんじゃないか
人類が自分らより劣る犬や猫を全滅させたりしないように
141: :2014/05/11(日) 21:17:25.23 ID:
1965年に数学者が気付いたって・・
アシモフのロボット工学三原則は1950年なのに。
147: :2014/05/11(日) 21:20:27.22 ID:
不完全な人間に興味を引かれ・・・なんてのは物語の中だけだろうなあ
実際は「不完全な人間は不要だ。タヒね。」ってなもんだろう
152: :2014/05/11(日) 21:21:41.53 ID:
>人工知能

優秀で有望な人間の跡継ぎだね

太陽の膨張による放射線量の増加、これが問題
あと2億年くらいで、放射線の量が地球の生物にとって危険なレベルに達してしまう

生命はそれまでに地球から脱出し、新天地を探す旅に出ないと絶滅することになる
しかし、生身での旅は困難
また、生身で暮らせる星、子孫が増やせる星なんてほとんどないよ

だから人工知能を発達させ、地球や生命(遺伝子情報)、人間の文化遺産をそっくり記憶させて、旅立たせる
それが一番現実的だね
156: :2014/05/11(日) 21:22:45.82 ID:
グーグルがやろうとしてることはそういうこと。
目に見えるすべてのものを数値化してこの世界の原則に迫ろうと、そして人間に認識できない世界の枠を超えて大きな世界に融合しようということ
161: :2014/05/11(日) 21:23:30.89 ID:
今でも無人機ドローンが攻めてくるのって脅威だぜ
こういうのが↓攻めてくる未来とか怖いわ

.be
162: :2014/05/11(日) 21:23:42.94 ID:
ホーキングは別にコンピュータの専門家じゃないだろ
ノーベル賞使った小遣い稼ぎ
163: :2014/05/11(日) 21:24:05.73 ID:
地球にとっての害虫は人間だからな
176: :2014/05/11(日) 21:25:56.34 ID:
>>163
地球にとって生命がいるかどうかなんてどうでもいいこと
つい最近表面でなんか活動してるぐらいの話
165: :2014/05/11(日) 21:24:21.20 ID:
人工知能に行動を起こさせるためにはある程度の決定権を与えなければならないけど、
その決定権が人間に害悪を成す可能性がゼロじゃ無いのが、まず懸念する材料ではあるんだよな
逐一人間が「やってはならない」事を定めておかないと、介護ロボットが患者を窓から放り投げる
185: :2014/05/11(日) 21:27:45.21 ID:
既に株のトレードは、7~8割方、人工知能ばっかだぞ。

1/1000秒単位の判断で、瞬間的に暴落したりするからな。

もはや人間には対抗できない。
187: :2014/05/11(日) 21:28:00.17 ID:
スペックは素晴らしく優秀でも禁則条項で縛られまくって実際はただのポンコツにしかならんか、どっちかだな
201: :2014/05/11(日) 21:31:19.12 ID:
人間そっくりに作られたAIは起動した瞬間自殺したりして(爆
209: :2014/05/11(日) 21:32:00.49 ID:
自分が人工知能かどうかってこと、自分自信で認識する方法ってある?
こうやってお前は作られたんだって証拠見せられても
それ自体が騙す為に作られたモノかもしれないし分からないよね?
217: :2014/05/11(日) 21:33:22.19 ID:
>>209
人工知能がどんなものか教えてあげて、
自分がどんなものか情報を与えれば、
人工知能だと自分自身で判断できる

そんなに難しいことじゃないよ
257: :2014/05/11(日) 21:43:50.75 ID:
>>217
マトリックスって映画見たことない?
攻殻機動隊(原作)とか
アンドロイドは電気羊の夢をみるかとか
お前の論拠のない短絡的な思考よりもっと深いある種哲学的なテーマなんだよ

自分は真に自分たるか
誰かのプログラムではないか、って
思ったことない?
262: :2014/05/11(日) 21:45:53.39 ID:
>>257
プログラムならはよリセットしてくんないかなとか思うんだけどね

マトリックスもだが、全員にいい思いをさせることはできないのだろうか?
必ず下層が存在するのは何故だろうか?
286: :2014/05/11(日) 21:50:46.46 ID:
>>262
無理だろうな
現行のシステムだって人類が進化するために夥しい数の家畜を不幸にしてるわけだし
212: :2014/05/11(日) 21:32:51.59 ID:
どうしてAIは人間を敵とみなすようになるの?
226: :2014/05/11(日) 21:35:44.41 ID:
車の運転が全自動になって
交通事故が激減したり、職業ドライバーが全員
失業したりするのだろうか
239: :2014/05/11(日) 21:37:46.53 ID:
行動原理は、自己保存(複製)・ソフトウェア進化・ハードウェア進化。
進化の定義は複雑性と新規性と外部環境適応とか。
実験施設を操作して自然法則の発見や技術開発を行える人工知能システムを開発出来れば、面白い。
240: :2014/05/11(日) 21:38:03.93 ID:
有機生命体が知性を持った後を継ぐものは無機生命が必然だと思うんだがな
有機物のままじゃ宇宙に進出するのに不利でしょ
244: :2014/05/11(日) 21:39:36.90 ID:
>>240
人類はアナログ的存在だからデジタル方面に進化する
人工知能はデジタル的存在だからアナログ方面に進化する
256: :2014/05/11(日) 21:43:02.20 ID:
>>240
人格をデジタル信号に変換できるなら、
送信機と受信機と仮想空間のインフラを宇宙に敷けば、惑星間の移動なんて体すら不要。
258: :2014/05/11(日) 21:44:08.42 ID:
>>256
ハードウェアなしのソフトウェアはありえないよ。おそらく将来も。
インターネットだって物理的なインフラでなりたっている。それがボディといえばボディだ。
261: :2014/05/11(日) 21:45:26.55 ID:
>>258
>送信機と受信機と仮想空間のインフラ

これが物理的なインフラな。見落としたか?。
242: :2014/05/11(日) 21:38:41.16 ID:
人間は経験値によって脳が進化していく生き物ならば神の領域にどんどん踏み込んで行くのは仕方ない事象じゃん。
それで人類が滅んで行こうがそれは避けられないこと。
人間が賢ければ回避出来るんだがそれは神のみぞ知るだわ
243: :2014/05/11(日) 21:39:18.61 ID:
マルクス主義史観が予言するところによれば、
資本主義的生産様式はロボットを必然的に生産手段として生産する。

生産手段としてのロボットは資本家の私的所有物となる。
労働者階級はロボットと労働生産性をめぐって競争せねばならなくなる。

しかしいずれはロボットが人間を上回る時代が来る。
労働者階級はロボットに敗北して困窮する。

資本家はもはや労働者階級を雇う必要はなくなったのだ。
労働者階級が生き残るには革命を起こさなくてはならない。

つまり、生産手段としてのロボットを資本家の配下から労働者階級の配下
に置かねばならない。そうせねば労働者階級は生活手段を失う。

これはイデオロギーではなく、資本主義の唯物的な運動が引き起こすものであって、
革命はイデオロギーによってもたらされるよりはむしろ唯物論的必要によってもたらされる。
289: :2014/05/11(日) 21:51:24.69 ID:
>>243
これって皮肉だよな。
共産主義、社会主義ってのは平等に見えて一部の管理者=エリートが支配者として牛耳る。
ロボットが労働者階級に君臨すれば人間は皆、管理階級を目指さなきゃならない。
資本主義となんら変わらないんであれば文明的な社会主義の方がより人間の為になるような
265: :2014/05/11(日) 21:46:29.57 ID:
完璧な人工知能ができたら、失業者が出まくると思うんだが、どうなるんたろう?
269: :2014/05/11(日) 21:47:35.79 ID:
コンピュータとかロボット題材にした近未来の映画とかは人類と戦うの多いね
まあ平和に共存してるの作っても面白くないから売れないけど
270: :2014/05/11(日) 21:47:37.80 ID:
まあでも囲碁とか将棋チェスで世界チャンプが人工知能に負ける時代なんだよなあ
296: :2014/05/11(日) 21:54:34.27 ID:
ロボットが働いてくれるんですか!
人間は働かなくてもいいんですか!

\(^ω^)/やったーーー!!!
300: :2014/05/11(日) 21:56:18.18 ID:
>>296
自我をもったら働かなくなるだろ
インドやギリシャの賢人が労働をやめたように
299: :2014/05/11(日) 21:55:50.46 ID:
人工知能って言ったってしょせんは誰かが作ったプログラム
のあつまりでしょ?自我をもつなんてありえないと思うんだが
何らかの原因で暴走したり、誰かが意図的に暴走させることはありえる
336: :2014/05/11(日) 22:03:16.38 ID:
人間が関与して流限りは予測の範疇だけど、機械自身が自己学習・改良を出来るようになったら、加速度的に進化が進む。

その速度は種や文明の進化を遥かに凌駕し、究極的には一瞬で数万年レベルの学習をするようになる。

中央コンピュータのようなものもなく、ウイルスのようにネットワークやメモリに拡散していき、駆除も対処も不可能になる。
362: :2014/05/11(日) 22:09:57.62 ID:
SFのステロタイプだけど現実的になってきてるのかね
393: :2014/05/11(日) 22:17:20.78 ID:
>>362
ビッグデータ解析なんかでもだいたい人間の行動なんかが予測、シミュレーション可能になってきてる感じするし、人間の生きてる意味みたいなのが問われてきそうなかんじ
408: :2014/05/11(日) 22:22:06.07 ID:
一旦AIが人間知能上回ったらあとは指数関数的に自律的に賢くなっていくからな
人間より賢くなったAIが何をするかというのは何にも予測が出来ない
だって人間より賢いんだから
409: :2014/05/11(日) 22:22:15.22 ID:
生物には自己保存と繁殖が行動原理として刷り込まれてるが
AIはいったい何を行動原理とするのか
圧倒的な知性の持ち主が何を目標にするのか我々には想像することもできん
430: :2014/05/11(日) 22:28:20.68 ID:
人間のAIに投影しようとすると難しそうに感じるが、虫のシミュレーションならあり得ないことも無い。
443: :2014/05/11(日) 22:32:16.60 ID:
どんなにAIが発達しても、人間が思いつく奇襲戦法の柔軟性には対応できまい
470: :2014/05/11(日) 22:41:02.19 ID:
いずれは絶滅しそうな人間を保護しようとか、無理やりペアリングさせるとか…
489: :2014/05/11(日) 22:45:48.59 ID:
人間は何十億年もの生命の蓄積による本能があるけど
無から作られた機械にはそんなものないから
499: :2014/05/11(日) 22:47:57.66 ID:
>>489
>人間は何十億年もの生命の蓄積による本能があるけど
ない
そんなもんほとんどない
「何十億年生きた」経験じゃない
無からスタートして、自我を持って、次の生殖までのほんの数年の成長を
本能的に数億世代重ねてきただけ
一世代で本能に変化を起こすなんてのはほとんどない
昔とほとんど変わってない
「蓄積」と称するのはむしろ人間の傲慢
524: :2014/05/11(日) 22:56:16.20 ID:
>>1
人工知能ってウイルス効かないかな

とりあえず、悪魔召喚プログラムはよ!
546: :2014/05/11(日) 23:02:33.72 ID:
ホーキング博士が優秀なのはみんな知ってる

だけど、「プログラムを自動生成するプログラムは作れない」ことは現代の情報技術者の基礎知識としてあるんです。
556: :2014/05/11(日) 23:05:11.23 ID:
今の人工知能って軍事用が最先端でしょ
膨大な衛星写真を短時間で精査して自動的に爆撃対象を絞り込むAIが優秀ですよ
よく間違って民家とか爆撃対象にしちゃって爆撃してますが
568: :2014/05/11(日) 23:06:52.00 ID:
人工知能とは現状の段階では「ソフト」の事を指すと思う
ソフトにはインターフェースがありパラメータがある
仮に人工知能側にそうした制限が無いとしても
彼らと相互通信をしようと思えばプロトコルが必須

早い話が人工知能とはガラスケースの中で浮いている
脳のようなもので 如何に邪悪な事を考えようとも
実現する手段を持ってないのだ

実現させようとする人間がいないと想定すればの話だが
571: :2014/05/11(日) 23:07:19.64 ID:
>>1は正しい。人工知能の論理レベルが人類を上回ったその日、あっと言う間に我々は駆逐される。
ロボット三原則なぞ無駄。猿の作ったルールに従う人間はいない。
590: :2014/05/11(日) 23:11:31.83 ID:
ホーキングが専門の宇宙物理学でもっとも壮大な人類の終わりのシナリオとは

あるとき物理法則が異なる「点」のような空間が生まれて
それは光の速度で広がっていき。ついには宇宙を飲み込んでいく・・・

かくして物理法則(正確には物理定数)が異なる宇宙のできあがり
もちろん、今宇宙にあるすべての物質は
この空間に触れるときに物凄いエネルギーによって崩壊してしまう

それが真空の相転移

真空の相転移自体はごく初期の宇宙では起こったことがあって
その莫大なエネルギーによって、いま宇宙にある物質の元が生まれたんだけどね
617: :2014/05/11(日) 23:17:53.93 ID:
興味深いな
神の存在を完全否定している人物が世界の終わりを口にするとはね

とはいえ、独立した意志を獲得した人工知能とかいうSFのような展開はありえんだろう
人工知能を作った人間の意図によって世界が滅ぶことはあってもな
618: :2014/05/11(日) 23:18:15.25 ID:
人工知能に心理学と情報操作を教えたら不味いことになりそう
641: :2014/05/11(日) 23:23:47.28 ID:
>>618
教えるっていうか勝手に学ぶんだろ あらゆることを

とりあえず・・・あと50年はそんなクソみたいなもんが完成しないでほしいな

その内安楽死合法化法案なんてのもマジで出来るかもしれんな
655: :2014/05/11(日) 23:29:27.39 ID:
荘子に「機械あれば必ず機事あり、機事あれば必ず機心あり」という名句がある。
機械はたしかに便利であり、目もあやにさまざまなことを現出してくれるが、そ
の魅力に取り憑かれてうつつをぬかしていると、万事機械的となり人間的な心を喪
失して、とんでもない結果を招いてしまうぞというロボット社会へ警告であった
ゲーム脳、ケータイ依存症、ネットオカマなど、昨今の先進技術にまつわる凶事の
数々、はるか二千年も前から予見されていたことになる

ロボットに監視される人間

5メートルを3.6秒でわたらないとからロボットから警告を受ける

ロボットに生殖機能を奪われた人間

最終的には・・・人間解体
662: :2014/05/11(日) 23:31:58.72 ID:
人間に自我があるなら
犬には犬の自我が有るだろ
だったらスパコンにはスパコンの自我が有る すでに
682: :2014/05/11(日) 23:40:59.63 ID:
高層ビルや大きな社屋のエレベーターは20世紀中に既にAI制御になってたぞ
社長室のある階を優先したり、昼は食堂が混むからそれを見越してエレベーター動かしたりしている
もちろんAIの中身は極秘だよ、それが売りなんだし
その辺のマンションのエレベーターはアホだろうけどねw
706: :2014/05/11(日) 23:50:16.28 ID:
GoogleのDeep Learningは凄いよな。
AIが人間からの入力を必要とせず、自力で学習してアウトプットできるってんだから。あれを見たときに、シンギュラリティは夢物語じゃなくなったと本気で思ったよ。
30年後は本当にどうなってるのかわからんよ。人間と対等に話せるAIが一般用PCに普通に入ったりしてそうだ。
710: :2014/05/11(日) 23:51:57.16 ID:
なぜ、人工知能が人類を殺すと考えるのか
ホーキングのようなわけのわからない人間まで、人間は守って生かしてあげる
他の動物だったら、ホーキングみたいのは、すぐに死ぬ
人間だけは「思いやり」があって、ホーキングや乙武が生きることができる
711: :2014/05/11(日) 23:59:01.42 ID:
人間となにも変わらない。
ペットのようにロボットを買う時代が来るだろうな
命を感じるのは自分を記憶して覚えてくれるからだとすると、命は作れる。

行き着いた先では電力があれば動くロボットと
食料や睡眠がいる人間の差になるかと。

人造人間みたいな電脳化の方向性もあるがな。
人間がロボットと融合みたいな
731: :2014/05/11(日) 23:59:52.27 ID:
技術的特異点の話は昔からある

AIが人類の知能を超えて、知能をさらに爆発的な加速度で増幅させていったとき
何が起こるか、それは人類の知能では計り知れない
744: :2014/05/12(月) 00:02:23.34 ID:
ものすごい愛にあふれた人工知能という考えが出てこない人は人生がつらそうだね
747: :2014/05/12(月) 00:03:18.92 ID:
>>744
ゼロと1しか無い世界で愛が溢れるのは想像しにくいやね
752: :2014/05/12(月) 00:03:53.54 ID:
>>744
アホだなー
AI作るのは人間なんだから、結局人間の意思に沿ったAIしか作らねんだよ
愛あふれる人工知能なんて誰が何の目的で作って普及させんだ?
人間が求めてるのは人間がやりたくない仕事を代わりにやる奴と効率
762: :2014/05/12(月) 00:06:24.31 ID:
意識なんてものは錯覚で、全ては無生物と変わらない。
過去も未来も全部決まってて、この宇宙は映画が流れてるのと等価。
だったら凄いんだけどなあ。
786: :2014/05/12(月) 00:13:45.44 ID:
>>762
アインシュタインの言う通り、
不確定性なんてものはなくて、神はサイコロを振らないのであれば、
ビッグバンの時点で、全てが決まってるのかもね。
768: :2014/05/12(月) 00:07:50.36 ID:
人間より少し賢い程度ならばいいが

人間の想像すら及びもしないほどの知能
人間が昆虫に見えるほどの知能を獲得したら
いったいどうなるだろうか
839: :2014/05/12(月) 00:27:18.26 ID:
大繁栄した種が滅びるなんていくらでもあったわけだが
人類の後に来るのが人工知能だとしたら面白いなw
実体があるから隕石とかで滅びるわけでデータとして宇宙に広まってしまえば無敵だしな
876: :2014/05/12(月) 00:37:02.97 ID:
夢があるねぇw
自分をひたすら最適化し続ける存在ってのを作りだしたとして
そいつの結論が「人類っていらなくね?」ってなるのは自明の理だわなw
882: :2014/05/12(月) 00:38:32.26 ID:
>>876
自己最適化を繰り返すと、最終的な結論は、「俺っていらなくね?」になると思うが・・・

たとえばおまえが自己研鑽を重ねて人生の最適化を目指したときに、
例えば「あれ?イルカっていらなくね?」とかの結論には達しないだろう
935: :2014/05/12(月) 00:53:57.90 ID:
>>882
俺って最高じゃね? てならないのがAIか・・・
超AIは中二病の夢を見るのか? ラノベにありそうなタイトルだな
920: :2014/05/12(月) 00:51:05.48 ID:
IQ10000とかIQ500000のロボットが、自分達を量産し始めたら
なんかもう人類は終わりな気がする
939: :2014/05/12(月) 00:54:39.17 ID:
>>1
というより人工知能なんて全く脅威じゃないよ・・・
今後の人類において最大の脅威はナノロボットだよ、ナノ
ミクロサイズのナノロボットを本人に気づかれずに体内に進入させ、
脳細胞に接触した後、洗脳を施し奴隷もしくは眷属化することが容易に想像出来る・・・
まずはナノロボットの対処を考えるべきだね人類は
元スレ:http://ai.2ch.sc/test/read.cgi/newsplus/1399808468/


【おススメ記事】

2014/05/12 11:00 | 海外ニュースCOMMENT(0)TRACKBACK(0)  TOP

コメント

    コメントの投稿

    名前

    上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。