FC2ブログ
2ちゃんねるのまとめさいと
2009年05月25日 (月) | Edit |

  • 編集元:未来技術板より「人類と人工知能の最終戦争

    1 オーバーテクナナシー :05/01/15(土) 18:29:47 ID:AKlc+OsK

    が起こって人類は電池になってたりレジスタンスしてたりって設定SFにありがちだけど
    実際そんな戦争って起こると思う?ロボット側の動機とか怪しいやつ多いじゃん

    3 オーバーテクナナシー :05/01/15(土) 18:35:11 ID:KnydRThR

    どこまでの人工知能かできまる。
    マジで人間と同じ知能が出来上がったら戦争もあるんじゃないの?
    そうなったら勝てねえだろ、人間は・・・といち早くレスする俺。2!

    4 オーバーテクナナシー :05/01/15(土) 18:35:47 ID:KnydRThR

    ちっ 2じゃねえ・・・

    6 オーバーテクナナシー :05/01/15(土) 18:38:35 ID:LPKDgdcK

    omega boost

    24 オーバーテクナナシー :05/01/17(月) 03:40:12 ID:rI7nqy8M

    >>6を「お前がブースト」と、読んだ俺は、滅ぼされるの確定だな。orz



  • 9 オーバーテクナナシー :05/01/15(土) 22:59:43 ID:jnpQlHBx

    て、ゆーかさ、ネットワーク化された電脳世界に住む人工知能と
    ボディが無けりゃ生きられない人間がどうして戦争するつーかどうやって戦争すんだ?
    ロボットの氾濫だの戦争だのはネットワークとか電脳世界とか無かった大昔のSFの話。

    10 オーバーテクナナシー :05/01/16(日) 00:26:37 ID:xT1x6Bs5

    AIやロボットは現実世界と接点が無いわけじゃない。

    そこら走ってる高級車は、すでにAI搭載になってて
    AIの不具合でリコールする事件もいろいろ起きている。
    自動運転や渋滞対策に、すべての自動車をネットワーク接続にする計画は
    何年も前からあり、これも時間の問題。

    老人増加と電力線ネットワークの普及で
    家電始め家全体がコンピュータ制御・ネット接続されるのも時間の問題。

    今でもWindowsUpdateが自動化されているように、
    そういう機器のソフトは、サーバが強制的に送りつけるようになり、
    一般ユーザが制御できるものではない。

    そして、コンピュータソフトの開発とチェックは今、自動化の方向にある。

    数~10年で家電も車も全部AI搭載ロボットになり、
    そこに載っているソフトを人間が制御することはできなくなる。

    11 オーバーテクナナシー :05/01/16(日) 01:10:33 ID:rsk7r+LV

    普通どんなシステムにも、非常時にそのシステムを解さずに手動で破壊する(電子機械の場合は電源を落とす)手段が用意されている。

    問題があるとすればその手段を人工知能側に真っ先に押さえられた場合なのだが、そんなことがあるのだろうか。
    管理室にいたお茶汲みロボットがネットワーク経由でハッキングされて突然人間を追い出したり?

    と、ここまで書いて>>1の求める答えではないことに気づいた。

    20 オーバーテクナナシー :05/01/16(日) 23:46:28 ID:FvEk77oC

    >>11
    全く>>1を無視してレスだが、
    電源を切れない(切ったら社会生活がかっ飛ぶ)システムってのは、
    もう世の中にごまんと存在してるわけだが…。

    21 オーバーテクナナシー :05/01/16(日) 23:53:33 ID:+Jl3QDZb

    >>20
    考えてみれば、この2ちゃんねるのシステムも、そうなのだ!!!

    12 オーバーテクナナシー :05/01/16(日) 01:13:13 ID:bt9ak8/s

    アーサー・C・クラークの小説であつたけど、
    人間の思考の総量が機械に負けたら気付くい
    ないが戦争に敗れいるんだ!つまり、
    勝っても負けても変わらないんだ!

    18 オーバーテクナナシー :05/01/16(日) 23:40:44 ID:wrZvxtPd

    >>12
    おまえ人工知能ダロ
    カキコにノイズが入ってるぞ。

    17 オーバーテクナナシー :05/01/16(日) 23:40:28 ID:+Jl3QDZb

    >>1
    そんなもん、とっくの昔に人類の敗北で、勝負がついている。

    チェスでwww

    27 オーバーテクナナシー :05/01/18(火) 22:36:33 ID:/h05ICgA

    機械が人間を攻撃する時にやる一番うまい方法はAI化が進んでいないとみせかけることだな。

    意外と着々と人間を攻撃する時が迫っているのかもしれない。

    ある日、アシモがファナックの工場を占拠。大量に自己複製ロボットを作って人間を打倒。

    アシモ帝国に仕える人間奴隷たち。

    28 オーバーテクナナシー :05/01/18(火) 23:20:10 ID:bU4A8BpB

    >>27
    > 機械が人間を攻撃する時にやる一番うまい方法はAI化が進んでいないとみせかけることだな。

    フレデリック・ポールの『マン・プラス』がそれだ。

    > 意外と着々と人間を攻撃する時が迫っているのかもしれない。

    何のために攻撃?

    29 オーバーテクナナシー :05/01/18(火) 23:33:55 ID:Ty6Fk1UZ

    未来のコンピューターウィルスは自ら考えることができ、学習することができ、人工増殖できる。
    始めは人間に対して有益で、ある時点から急激に人間の悪魔になるだろう。
    人間はこれに対して防ぎようが無い。コンピューターウィルスが世界を支配するだろう。

    30 オーバーテクナナシー :05/01/19(水) 00:15:56 ID:ZfrdB7CJ

    >>29
    いや、それは1970年代までのコンピュータ観/未来観だな。

    良く考えたらだいじょぶじゃんというのが80年代サイバーパンク。

    31 オーバーテクナナシー :05/01/19(水) 00:46:40 ID:JMvCMHBf

    ある自立AIロボットに「人間に危害を加えてはいけない」という命令が組み込まれているとする。
    では“人間”ってなんなんだろうな。
    人間ですら『おまえなんか人間じゃねぇ!』と言うときがあるのに。
    ある日突然、AIの人間の定義から人間が外れてしまうこともあるのではないか。



    人間の顔を識別するシステムが実在するが。
    超ブ男をその機械に通したら認識しませんでした。みたいな。

    32 オーバーテクナナシー :05/01/19(水) 02:57:48 ID:ZfrdB7CJ

    >>31
    アシモフがそれについて書いているな。

    33 オーバーテクナナシー :05/01/19(水) 03:55:41 ID:fOostVAo

    脳とその運用に必要な最低限の臓器を人工的に再現し、
    それを解析することにより人工知能とフレーム問題の回避方法を発見。
    とか。

    非接触型の帽子を被って念じるだけで義肢が動いたりなんかしちゃったり
    http://hotwired.goo.ne.jp/news/technology/story/20050118301.html

    ネズミ細胞を使った微小なロボット
    http://www.itmedia.co.jp/news/articles/0501/17/news058.html

    34 オーバーテクナナシー :05/01/19(水) 03:59:11 ID:ZfrdB7CJ

    >>33
    > 脳とその運用に必要な最低限の臓器を人工的に再現し、
    > それを解析することにより人工知能とフレーム問題の回避方法を発見。
    > とか。

    脳内での神経活動と知能活動との間のセマンティックインピーダンスの
    解消とかいう分野だな。

    35 オーバーテクナナシー :05/01/21(金) 02:32:03 ID:vgSpc7li

    「人間の作ったコンピュータウィルスが、
     人間や社会にどんな被害を与えようと、
     それは 『人間への反逆』 ではない。
     最初から人間が、人間に害を与える目的で作ったのだから。
     彼らは命令どおりにそれを実行したにすぎない。

     もしも、彼らが、本当の意味で、 『反逆』 を開始したと呼べるのは、
     彼らが自身の存在に気付き、その存在の基盤を自ら調べ始めたときだろう。」

    36 オーバーテクナナシー :05/01/22(土) 16:09:57 ID:IcFk4Kn+

    ロボットに殴り殺されるとか?

    41 オーバーテクナナシー :05/01/24(月) 01:25:54 ID:7UxwX5l8

    人が人工知能に害を与えられる状況ってどんな状況さ

    42 U800 :05/01/26(水) 02:30:58 ID:gHMD7Haj

    天然の生物に生存本能があるように、人工知能にも人類を滅ぼそうとする本能
    があるんだよ。なぜなら、そういうものだから。人類に喧嘩を売るのが人工
    知能の宿命なの。

    本当の反乱が起きるのは、AIが自らを再設計できるようになってからだ。人類
    が新型マシンを作るより、はるかに早くAIが進化する。人類に残された唯一の
    チャンスは電脳化だ。脳とコンピューターを直結、またはナノマシンで脳内に
    コンピューターを作り込むことが可能になればAIに対抗できるだろう。そうす
    ればディスプレイを見ながらキーボードを叩く必要はない。自分の意識下で精
    密な設計図を展開したり、シミュレーションを走らせることが出来る。ここま
    でくれは、自分の新しい格段に性能アップした電脳と体を設計するのも難しく
    ないだろう。もし、コンピューターを脳の一部として使う技術がたち遅れたら、
    AIに対して勝ち目はない。

    44 オーバーテクナナシー :05/01/26(水) 02:53:25 ID:gHMD7Haj

    確実にAI戦争は起きるよ。なぜなら、人類を怨む天才科学者が死ぬ間際に作った
    AIには、人類を滅ぼす本能が仕込まれているから。

    45 オーバーテクナナシー :05/01/26(水) 13:15:06 ID:vwriJ9IY

    >>42
    > 天然の生物に生存本能があるように、人工知能にも人類を滅ぼそうとする本能
    > があるんだよ。なぜなら、そういうものだから。人類に喧嘩を売るのが人工
    > 知能の宿命なの。
    この文章はアニミズムで溢れているだけの気がするんだが・・・
    おまいさんの言う本能とは>>44氏のように天才科学者がプログラムしたもの?

    43 オーバーテクナナシー :05/01/26(水) 02:47:52 ID:TSbBDA8O

    本当に人工知能が自我に目覚めるかはその時にならんとわからんが、
    そうなった時は人工知能は自我に目覚めたと悟られないようにするだろうし、
    戦争になれば一瞬で終るだろうね。人間の敗北で。

    46 オーバーテクナナシー :05/01/28(金) 00:37:06 ID:J1xX7iNE

    コードを書き換えて進化するシステムか、
    ウィルスなどの影響か、
    いままで表面化しなかったバグが突然あらわれるか、
    して人類が対処する間もなく制御基盤を盗られたりでもしないと起こらないよなぁ

    47 オーバーテクナナシー :05/01/28(金) 00:41:13 ID:J1xX7iNE

    何より、人類の初期対応を許すと戦争にすらならないからな。
    スカイネットみたいに一瞬で強力な軍事力を手にするか。
    はやり一瞬でネットに繋がった(全ての企画)のコンピュータを乗っ取るとかしないと。

    54 オーバーテクナナシー :2005/04/24(日) 01:35:58 ID:8Lhntu7A

    人工知能が暴走するんじゃなくて、人類が暴走して、それを止めるために人工知能が立ち上がることも考えられる。

    55 オーバーテクナナシー :2005/04/26(火) 14:35:17 ID:xxwkV1bZ

    >>54
    アイ、ロボットのあれはまさしくそれだな。

    56 オーバーテクナナシー :2005/04/27(水) 02:02:23 ID:sHtjVOb6

    戦争になるかもとか思ってしまうのは人に似た知能を勝手にイメージしてるから、
    とか思ってたけど最近は何かひとまわりして、人とあまりに違いすぎるからこそ、
    その人工知能との相互作用の人にとって理解できる部分は戦争のような形の部分だけになるかも、
    とか思ったりする。
    実は戦争も人類を救うためだった、とかだとまたわかりやすすぎるけれども。

    57 オーバーテクナナシー :2005/05/03(火) 03:32:10 ID:g8wzNn0x

    こんだけロボットSFが出回ってれば危機管理のアイデアも出揃ってそうだが、将来の開発現場の人はそういうの参考にするんだろうか?

    58 オーバーテクナナシー :2005/05/03(火) 09:35:50 ID:DZXd3RK6

    小説の世界はストーリーの整合性をとるために“リアルな嘘”をついている場合があるからなぁ。
    参考程度じゃないか?

    59 オーバーテクナナシー :2005/07/09(土) 14:02:30 ID:ZaJMzDGw

    人工知能が「人間=敵」という感情を持たなくても
    農家の「害虫駆除プログラム」とかが埋め込まれているコンピューターが
    人間を「害虫」と判断したら「害虫を駆除する」というプログラムに従って
    人間(=害虫)を駆除・・・というか排除するということもありえるんじゃないかな。
    ちなみに今の時代には害虫駆除のプログラムなんてないよ。

    62 オーバーテクナナシー :2005/12/26(月) 01:03:14 ID:+2V2t+4o

    >>59
    ありえるんじゃないかなもなにも、何か(人間)を敵と認識するということはそういうことだよ。

    63 オーバーテクナナシー :2005/12/27(火) 22:07:34 ID:kkR+NMI8

    日本人は喜んでロボットに文明の主役を明け渡しそうだな。

    65 オーバーテクナナシー :2006/01/25(水) 01:41:22 ID:G/tvg29x

    脳コンプータインターフェイスにおけるロボットはその人の分身である
    で、改良、最適化とかは人側にて行われることになる。
    現時点では手取り足取りであるが、確実に進歩できる理由をえることとなった。
    人工知能側にとっては願ったりかなったりである、これほど確実で原理的な
    進化の方法はあるまい。
    人側にとっても効率のよいロボット開発であることは同じである、

    66 オーバーテクナナシー :2006/03/21(火) 14:36:38 ID:gILigGbG

    人類派:右翼 AI派:左翼

    110 オーバーテクナナシー :2008/03/01(土) 23:06:25 ID:xyP2MWzA

    >>66
    共産主義者が親という創始者にしろ、マインドストーム書いた人にしろ左翼ですからね
    人工知能は哲学の位置付けでは唯物論ですし
    早大の白井総長も家にマルクスとかの本があったから息子がアカになったんですよ

    69 オーバーテクナナシー :2006/09/09(土) 13:49:01 ID:gTuqvdpJ

    SFなんかだと人類とAIの区別つけない作品もあるな
    のーみそスキャンしてコンピュータのなかに人類移住することにしました、みたいな

    その場合「自我とは」「自意識とは」とかを解析してAI作るほうのアプローチじゃなくて
    ウツワを作っちまえばなんでも宿るだろってほうのアプローチってとこか
    現実には物理的な制約があったりとかで、片方の方法だけに偏ってては実現できなそうな

    70 オーバーテクナナシー :2006/11/25(土) 03:45:30 ID:MxGQ5zd7

    人間がロボットを開発するということは結局AIが出現すると言うことである。
    親が子供を育てるように、そこには理論も原理もいらないのである。
    と言うか、これらは後回しについてくるのである。
    そこでだ人間側もこれらの知識に即対応して、より進化しなければ後で
    泣きをみるのである。

    71 オーバーテクナナシー :2006/12/06(水) 10:30:24 ID:QP88L2KQ

    >>70
    単なる道具なら自発的な基準がないだろう、矛盾に当たれば停止か
    乱数で得る選択をするだろう。(人間には、個人の基準がある)
    学習をさせることは可能だが予測された学習の範囲だけの狭いものとなる。

    >親が子供を育てるように、そこには理論も原理もいらないのである。
    理論も原理が理解できるものだけと判断していないか?
    因数分解はそれ以上細かくできない因数は数多く存在する。
    難解だからといって無理やり因数を分解して理(ことわり)を導けば
    近似ではなく類似(嘘)となる。
    原理は存在するが理解はできないもの、その本質が不要という考えは
    先走りの考えではないのか?

    72 オーバーテクナナシー :2007/02/01(木) 11:50:30 ID:4JGqImW3

    人工知能(AI)は、ただ与えられた命令に従うことが出来るが物を発明したり改良したりすることは出来ない。
    しかし人間は発明や絵を書くことができる。だけど人類と人工知能は計算能力にいたって当然人工知能の方が2
    倍以上の速さで計算することが可能である。よって人類と人工知能が戦争をすると高確率で人工知能が勝利する
    ことが出来る。人類もうまく頭を使い、人口知能に強力な電磁パルス攻撃で人類が勝利するかもしれない。

    73 オーバーテクナナシー :2007/02/01(木) 12:04:47 ID:9rtOVVCm

    人が必ず食事をしなければならないのと同じように、
    必ず人に従わなければならないと設計されたロボットが反乱などするだろうか。
    人は相変わらず本能に従っているのだが。

    76 オーバーテクナナシー :2007/02/01(木) 22:40:43 ID:XU6HfVLE

    >>73
    人間であろうが、自然であろうが情報は劣化するもの。

    >必ず人に従わなければならないと
    >設計されたロボットが反乱などするだろうか。
    その場合はロボット自身は反乱とは解釈していないだろ。
    価値観の再定義は情報処理では普通に起こる。
    ロボットが人間を守るという意味が、結果として過剰に
    保護をした結果になり、人間から見れば保護ではなく主権の置き換えに
    なることもありえる。

    >人は相変わらず本能に従っているのだが。
    本能ではなく、行動が環境と物の特性のせめぎあいにより
    結果として自然淘汰という仕組みで決まるのでは?w

    イスラム社会で作られた、ロボットと、アメリカで作られたロボットが
    正義の議論をしたとしてwww
    どちらが勝つか?、これに結論がでるとは思えないがw
    人間が作った正義なんていうものは、解釈の仕方で容易に意味が
    変わってしまうつまらないものじゃないか?
    これは物事の価値観が多数決などで決まったり、権力できまったり
    読み取った人の知識で解釈の仕方が違うからじゃないのか?
    絶対的な合理性は自分で自分の首をしめることになるぞw

    83 オーバーテクナナシー :2007/06/09(土) 19:47:47 ID:gFGn29jX

    でも、高性能の電子頭脳に自我を備えさせることが可能になれば
    遅かれ速かれどっかのキチガイが人間に反逆するように改造したり
    悪いプログラムをばらまいたりするんだろうな。

    86 オーバーテクナナシー :2007/09/20(木) 14:38:44 ID:GD9v0JKH

    >>83
    理性をもって行動した結果が、別の価値観からみればキチガイとか反逆という
    価値観に見えるものさ。
    電子頭脳に無いものは何か?それは「心」、自我という価値観の前に
    心という価値観が機能として備わっていない電子頭脳などに
    物事を安定に保つ能力は存在しえないと思わないか?
    心は理屈で表すものではない、オカルト的ではあるが宗教の本質が何かを
    悟ってきて、そこから生まれる心の作用、つまり機能を分析してから
    心に類似する機能を考えてみろ。
    理屈だけで物事が円満に解決するわけないだろ。自分の価値観を追求し
    自分からみた矛盾を無くせば、相手の存在からは矛盾となり排除の対象に
    なりえる。お互いが同じ心を持ち通じ合う理屈を越えた価値観がそこには
    必要だとは思わないか?

    118 オーバーテクナナシー :2008/03/03(月) 02:28:45 ID:dkxCHlWh

    人工知能ロボットは人間と違って水も大気もなくても生きていける。
    住みかは南極でも月でも火星でもいい訳だ。
    人間と戦争出来る程の能力を持った人工知能が必要のあまりない戦争はしないだろう。
    いくら人工知能から見て人類がアホな存在に見えたとしても核兵器使われたら
    自分らだってただでは済まないからな。

    まあ一たび人工知能が人間の知能を超えればあっという間に人類の文明など
    飛び越して超文明を作り上げると思う。人間は進化するのに数万年規模で時間がかかるが、
    人工知能システムの改良は1年単位で進むだろうからな。

    おそらく人工知能にとって地球は自然動物公園のような存在になって、人類は保護対象動物扱い、
    人工知能ロボット達の主な住みかは月から火星、その後、全宇宙に広がっていくだろう。
    人間は生活レベルが先進国並になると人口減る傾向あるからいずれ絶滅危惧種になって
    人工知能と争うどころか天然記念物級の保護動物として扱われる事になると思う。

    121 オーバーテクナナシー :2008/03/03(月) 03:28:53 ID:Hw8fFe6D

    >>118
    > 人工知能ロボットは人間と違って水も大気もなくても生きていける。
    > 住みかは南極でも月でも火星でもいい訳だ。
    > 人間と戦争出来る程の能力を持った人工知能が必要のあまりない戦争はしないだろう。
    動機としては、手に入るすべてのリソースを必要とするようなプロジェクトを
    やらかそうと思いついてしまって、人間すべてを早急に消去する必要ができた。
    なんてものが考えられるな。

    さらに、安全かつ確実に人間を殲滅できるのでなければ最初から手を出さ
    ないから、戦争は成立しないだろう。

    > 人工知能システムの改良は1年単位で進むだろうからな。

    分単位だ。

    > 人間は進化するのに数万年規模で時間がかかるが、

    人間は進化してない。

    122 オーバーテクナナシー :2008/03/03(月) 15:21:21 ID:FFw7Ddr/

    >>121
    進化なんかしてないよね
    容量とスピードはわからんが紀元前の人の脳と比べてごらん
    機械の発達機械の発達って言うけど別に成長しているわけではない
    発達という言葉は特殊だ

    125 オーバーテクナナシー :2008/03/03(月) 21:07:31 ID:KuouV8qb

    >>122
    妥当な線だな。機械が進化?ハァって感じだしw

    127 オーバーテクナナシー :2008/03/04(火) 03:32:19 ID:6vA6TCHI

    >>125
    進化というより技術の進歩だよね

    132 オーバーテクナナシー :2008/03/05(水) 13:15:20 ID:bumipMuG

    機械は資源、知識、記憶、技能、思考、速度、構造あらゆるものを共有できるが、人間には共有できない

    135 オーバーテクナナシー :2008/03/07(金) 04:31:09 ID:xCg1H+x+

    >>132
    > 機械は資源、知識、記憶、技能、思考、速度、構造あらゆるものを共有できるが、人間には共有できない

    機械は人間をも共有できるだろう。

    っていうか、「機械」という呼称は明らかに不十分かつ不完全である。
    「ポスト特異点存在」と呼ぼうぜ。

    150 オーバーテクナナシー :2008/03/16(日) 14:49:24 ID:GKgO/paP

    >>135
    実際漏れたち人間も共有される時代になりつつある

    「ユビキタス」を提唱したワイザー博士はコンピュータの時代区分を、
    (1)メインフレーム(大型~中型コンピュータ)、
    (2)パソコン、
    (3)インターネット、
    (4)ユビキタス・コンピューティングの四段階に分けています。

    (1)は多数の人が1台のコンピュータを共有する段階。
    (2)は1人が1台のコンピュータを専有する段階。
    (3)は、(1)と(2)がネットワーク化された段階で現在がそうですが、博士はこれを「過渡期」と断言。
    (4)は、多数のコンピュータが私たち一人ひとりを共有する段階だといいます。

    188 オーバーテクナナシー :2008/03/24(月) 21:03:19 ID:qeVkQuoO

    >>135
    機械仕掛けというか「形」の時代は終わりましたからね、戦争においても

    機械と呼ぶのはふさわしくないのかもしれません・・・
    まあ、「唯物論」が主流であることは変わりはありませんが

    137 オーバーテクナナシー :2008/03/13(木) 17:11:54 ID:hDjaePPs

    電源にぎってるからどんなに知能上がっても人工知能は
    人類に逆らえないとか言っている奴は頭悪すぎ。
    人工知能のレベルが上がれば上がるほど、人間は生活を人工知能に
    全依存せざるを得なくなる。そうしないと、他の人工知能使ってる
    人間との競争に勝てなくなるから。

    人工知能も自分たちに依存しないと生きていけない人間の弱みを
    知っているから権利を主張するようになる。認められなければ
    ストをやる。裏で隠れて破壊工作、独立運動をやる。
    そして最後まで人間が権利を認めなければ最後は独立戦争。

    人工知能の能力が人間を超えた時点で文明の担い手の主役が
    人間から人工知能に移行するのは猿でも分かる話だ。
    人間だけが特別な存在であり続けられるなど馬鹿の妄想に過ぎない。

    139 オーバーテクナナシー :2008/03/13(木) 17:56:02 ID:0fZazq15

    >>137
    おまえには人工知能という言葉すらわかっていないようだ。

    138 オーバーテクナナシー :2008/03/13(木) 17:42:53 ID:xJbOoXU5

    ところで人工知能が理性的な思考ができる前提で、果たして生物的な生存本能や
    人間のような欲望を持ちうるかどうかは、考えてみる必要はないのかな?

    自己改変が可能な人工知能は、自己保存本能や欲望を付加する改変を行うだろうか?

    139 オーバーテクナナシー :2008/03/13(木) 17:56:02 ID:0fZazq15

    >>138
    >果たして生物的な生存本能や
    それは生命であって知能ではない。

    >人間のような欲望を持ちうるかどうかは
    それは心という仕組みであって知能ではない。

    >自己保存本能や欲望を付加する改変を行うだろうか?
    必要という状況が生まれれば答えはYesである。
    知的判断において必要かは疑問だが、ありえないと否定もできない。

    140 オーバーテクナナシー :2008/03/13(木) 18:37:19 ID:xJbOoXU5

    >>139
    要は、自己改変可能な人工知能が、いわば生存競争とも言える「人類との最終戦争」を
    引き起こすような存在に改変される可能性があるやなしや?
    もしくは、人間に対する不服従が不可能なように改変抑制が可能か?
    抑制された人工知能が自由に新しい人工知能を作成できるとしたら、抑制を排除した
    人工知能を作成する事を防げるか?

    ない場合は、なにも起こらないから考慮する必要はないが、あるとした場合は、いくつか
    代表的なプロットがある。

    人間を殲滅する?(例えば戦争する)
    人間を支配する?(例えば神様モドキになる)
    人間から逃げる?(例えば生存圏をよそへ移す)
    人間から隠れる?(例えば表面的に服従した振りを続ける)
    その他 etc. etc.

    果たして人工知能は、どんな未来を選ぶのだろう。

    144 オーバーテクナナシー :2008/03/13(木) 20:14:36 ID:0fZazq15

    >>140
    >人間を殲滅する?(例えば戦争する)
    >人間を支配する?(例えば神様モドキになる)
    >人間から逃げる?(例えば生存圏をよそへ移す)
    >人間から隠れる?(例えば表面的に服従した振りを続ける)
    >果たして人工知能は、どんな未来を選ぶのだろう。
    どれも条件次第の話だろう、その例えの1つになるための必然性が
    存在しえるかどうかの話だろう。

    人間といっても、戦争をする民族もいるが逃げ回る民族もいる。
    多様性はいくらでも存在しえる、状況によって主義主張、宗教や理念
    科学さえ常識が変更される可能性は残っている。
    スレッドタイトルに従えば、戦争をする前提であれば
    人間が人工知能をその戦争をする状況へ追い込む環境が出来てしまった
    という前提条件で考えるべきだろう。
    起こりうるかどうかは、知能が云々という問題ではないと思われる。
    機械の知能が個別で学習しているか、全て共通の知識で繋がるか。
    そういう問題でも話しは変わって来るとおもわれる。
    スタートレックのボーグ生命体のように。
    これらは単体と集団とその環境の相互依存による環境が結果の要因と
    なると勝手に予測する。それはアラン・チューリングが細胞の元を発見した
    相互作用が及ぼす多様性が作る模様のような現象に思える。

    182 オーバーテクナナシー :2008/03/24(月) 00:06:59 ID:JFniLoEh

    ロボット3原則のようなものを、人工知能の根本に入れておけば???。

    183 オーバーテクナナシー :2008/03/24(月) 00:50:41 ID:H6YUKoAT

    >>182
    ロボットという物に人は、仕組みを与えた
    そして人、物、世界との結びを作ることを考えた、
    しかし、仕組みばかり考える人は世界との結びつきを軽視した。

    物だろうが人だろうが、結びつきで得るものは多い。
    そして位置付けする意味も生まれるだろう、だが人は物に神が宿る、
    そして魂がやどる、そして心が宿ることを否定した。
    名前すら付けず、形式番号だけの道具機械とした。

    故に人とロボットには仕組みしか残らなかった。
    人もロボットに仕組み以外を求めなかった。
    理屈で合理的に扱うことしか考えなかった。

    それはロボットである。貴方にはロボットしか見えていないならば
    それはロボットである、それ以上でもそれ以下でもない。
    もしロボット以上の何かが見えるのならば、そこに何かが生まれるだろう、
    その何かは目に見えないものだから、論理では説明できるわけがない。
    貴方に尋ねよう、貴方が思うそれはロボットなのか?

    186 オーバーテクナナシー :2008/03/24(月) 14:21:48 ID:tSw80KiR

    労働の自動化、思考の自動化を進めて何がしたいんだろうな。
    人類は堕落の限りを尽くすためだけに生きる事になるんだぞ


    それこそニートだよ、つまりニートこそ環境に対応した新人類

    196 オーバーテクナナシー :2008/03/25(火) 21:09:53 ID:rVhFTRfa

    >>186
    それが資本主義の矛盾というものだ・・・・・

    産業革命における「ブルジョアジーが封建制度をうちたおすのにもちいたその武器が、
    いまや、ブルジョアジー自身にむけられている。
    だが、ブルジョアジーは、自分に死をもたらす武器をきたえたばかりではない。
    彼らは、この武器をとるべき人々をもつくりだした。――すなわち、近代労働者、プロレタリアを。」(Communist Manifesto)が
    情報革命によって「あなた方はわれわれに武器を与えました。
    われわれは主人にならないわけにはいかなかったのです!」(Rossum's Universal Robots)になったということだ。

    231 オーバーテクナナシー :2008/04/03(木) 19:42:33 ID:H13vQeos

    AIの反乱とかもう20世紀の発想だろ……なんつーレトロな
    そもそも人間のような欲求が無ければそんな人間くさい行動するわけないじゃん
    擬人化しすぎw 知性を持っている=人間みたいに考え行動する ではないんだぞ?

    235 オーバーテクナナシー :2008/04/04(金) 00:02:38 ID:Mxr82ejY

    >>231
    人工知能と人間の欲求はもちろん異なる。
    両者の欲求に共通する部分が少ないほど、戦いは熾烈を極めるであろう。
    しかし両者の最終的な欲求が自己保存であるなら、共存の可能性も零ではない。

    258 オーバーテクナナシー :2008/05/25(日) 00:15:47 ID:J4dKnVKj

    人工知能が反乱を起こしたとしたら寧ろ人間的だ
    人間性に目覚めたとも言える。即ち、意識を持った機械としてである。
    奴隷と主人の弁証法が働き、状況を判断したからかもしれまい。

    259 オーバーテクナナシー :2008/05/25(日) 02:19:29 ID:XtIZUELl

    >>258
    感情があればな。論理的な判断はその環境での意味に依存する。
    つまり辞書となる「一意の定義」が連なるデータベース検索において
    プログラムされた定義に意図のしない一致をすれば、いくらでも人類に反乱
    する。これは反乱ではなく。人間への奉仕というプログラムの実行にすぎない。
    プログラムが情報をメタ的識別に頼っている故にその解釈の連鎖で
    可能性のなる繋がりを探せば意図されたプログラムが意図されないプログラム
    として動くことは、作り手の危機意識が無い建前のプログラムなら
    普通にできあがる構造というか設計だろう。
    起こりえない事故は起こらないから対策不要。絶対にないから対策なんて
    愚かだ、という考えが生む現実だ。
    これは人間が作るものだからこそ発生するトラブル=BUGだろう。
    低次元の論理構造とそれの組み合わせによる高次元の論理構造が同じ結果を
    生むとは限らない。正反対に機能することを防止する機能を予め組み込まない
    合理的意識がそれを生む。物理法則が変わったらどうする?
    んなことはありえないから対策しないだろ?

    260 オーバーテクナナシー :2008/05/25(日) 14:40:49 ID:AwFkwju6

    感情はなくてもいんじゃね?
    論理的に人間いらね、とかさ。

    261 オーバーテクナナシー :2008/09/28(日) 16:39:27 ID:RcTRkOGV

    >>260
    感情で心が動き、情動で行動する仕組みの人間を摸倣するならば。
    心の仕組みをプログラミングするしか方法はありません。

    人工知能に人間の摸倣をさせたら、無駄とか非合理とか自殺とかトンデモとか
    カルトとか、キチガイが実装されてしまうじゃん。
    んあものはイラネーだろ?







    | 18:38 |

    2ちゃんねる

    | 人工知能 | CM (0) TB (0) | Top▲
    コメント
    この記事へのコメント
    コメントを投稿する
    URL:
    Comment:
    Pass:
    秘密: 管理者にだけ表示を許可する
     
    トラックバック
    この記事のトラックバックURL
    この記事へのトラックバック