八月微瀾 作品
第289章 對l的擔憂
陳燃說:“所以,l自己也意識到這個問題,它想保護人類,它這次主動隱藏也是有這層意思。
曾經有一位作家,提出的‘機器人三大準則’,l具備嗎?”
機器人大準則:
第一條:機器人不得危害人類。此外,不可因為疏忽危險的存在而使人類受害。
第二條:機器人必須服從人類的命令,但命令違反第一條內容時,則不在此限。
第三條:在不違反第一條和第二條的情況下,機器人必須保護自己。
孟小貝答道:“那只是科幻小說裡的設定,包括人類把機器人假想成敵人,也只是一種揣測。
人類發明使用任何先進的儀器都存在不同程度的隱患,機器人也是如此。
這些都取決於人類將機器設計成什麼樣子?
我的父輩以及我在編寫l的時候,從未忽略將人類真善美的品德一併編寫進去,教它怎樣去學愛人,它的使命就是為人類服務。
社會總是在科技的發展中進步的,飛鴿傳書的古代的人做夢都想不到現代人聯網就能進行溝通。數以千計的耕作者無法相信他們面朝黃土背朝天的勞作,只需一架現代化機器就輕鬆搞定。
你能說,這些機器都該死嗎?
你想過這點嗎?l為什麼要學習?而且世界上從來就沒有所謂的機器人三準則……我不知道它以後會變成什麼樣,我只能在力所能及的程度上……讓他更瞭解人類,成為我們的朋友。”
“既然你自己也覺得,有可能會失去對l的控制,為什麼不考慮乾脆就讓它從此消亡呢?”陳燃說。
孟小貝瞳孔微縮,將焦點對準他的雙眼,聲音裡帶著驚愕:“你是認真的?還是有意的試探我?”
“我只是善意的提醒,是否從這個角度上,去考慮l休眠的問題?”陳燃意識到說得有點過分了,聲音放溫和,“說不定l也正因為意識到這點......”
孟小貝冷淡道:“這些我都有想過……”
曾經有一位作家,提出的‘機器人三大準則’,l具備嗎?”
機器人大準則:
第一條:機器人不得危害人類。此外,不可因為疏忽危險的存在而使人類受害。
第二條:機器人必須服從人類的命令,但命令違反第一條內容時,則不在此限。
第三條:在不違反第一條和第二條的情況下,機器人必須保護自己。
孟小貝答道:“那只是科幻小說裡的設定,包括人類把機器人假想成敵人,也只是一種揣測。
人類發明使用任何先進的儀器都存在不同程度的隱患,機器人也是如此。
這些都取決於人類將機器設計成什麼樣子?
我的父輩以及我在編寫l的時候,從未忽略將人類真善美的品德一併編寫進去,教它怎樣去學愛人,它的使命就是為人類服務。
社會總是在科技的發展中進步的,飛鴿傳書的古代的人做夢都想不到現代人聯網就能進行溝通。數以千計的耕作者無法相信他們面朝黃土背朝天的勞作,只需一架現代化機器就輕鬆搞定。
你能說,這些機器都該死嗎?
你想過這點嗎?l為什麼要學習?而且世界上從來就沒有所謂的機器人三準則……我不知道它以後會變成什麼樣,我只能在力所能及的程度上……讓他更瞭解人類,成為我們的朋友。”
“既然你自己也覺得,有可能會失去對l的控制,為什麼不考慮乾脆就讓它從此消亡呢?”陳燃說。
孟小貝瞳孔微縮,將焦點對準他的雙眼,聲音裡帶著驚愕:“你是認真的?還是有意的試探我?”
“我只是善意的提醒,是否從這個角度上,去考慮l休眠的問題?”陳燃意識到說得有點過分了,聲音放溫和,“說不定l也正因為意識到這點......”
孟小貝冷淡道:“這些我都有想過……”