有關(guān)人機(jī)聊天的一次聊天

紐約老熊  02:38

賽先生中的顧凡及的文章很好。希望多有這樣的文章出現(xiàn)。有空了，將寫一個評論。

Shifa  02:43

@紐約老熊?我也覺得這文章很好，說的是事實

紐約老熊  02:48

@寶石頭?，文章很有趣?？吹健盎谛畔⒓夹g(shù)哲學(xué)的當(dāng)代認(rèn)識論研究“，[微笑] 我感到，好像有一點沒有明確提到，那就是，在若干領(lǐng)域，停留在邏輯層次，遠(yuǎn)比停留在更低層次效率高，特別是這種切分的問題。這是NARS的好處。但是，是否有人定義了這種切分問題的各種準(zhǔn)確度？有了準(zhǔn)確度，就可以進(jìn)一步做工程學(xué)的思考。

紐約老熊  02:53

@張世發(fā)?，文章里面的那個例子，就是單眼雙眼的例子，非常有說服力。很好說明了個體體驗的意義。當(dāng)然，顧凡及沒有提到認(rèn)識論，但我想，如果導(dǎo)入認(rèn)識論，應(yīng)該更有意義。

Shifa  02:55

顧老師不搞哲學(xué)？

Shifa  03:01

第一人稱的主觀體驗也許真的不能被第三人稱感受到，但可能可以被第三人稱觀察到。
感受是直接的，觀察是間接的。
這樣智能系統(tǒng)的設(shè)計者是不可能感受到智能系統(tǒng)的體驗的。這樣如果誰說設(shè)計出有什么體驗的機(jī)器，肯定是在騙人。

Shifa  03:04

體驗不能作為設(shè)計目標(biāo)，功能、行為才能。體驗重要嗎？也許功能滿足了體驗自然就好了，但也可能因為體驗好了，功能才能滿足。

Shifa  03:06

一個認(rèn)知機(jī)器，如果充電的體驗很差，生不如死，那么自動連接充電器的功能肯定無法實現(xiàn)

Shifa  03:13

體驗雖然無法被第三方感受到，似乎無法實現(xiàn)。但可能沒那么復(fù)雜，而只是認(rèn)知系統(tǒng)對事物貼上的標(biāo)簽，喜歡、厭惡、害怕、痛苦都是標(biāo)簽，意義在標(biāo)簽對認(rèn)知系統(tǒng)的行為的影響。只要恰當(dāng)定義這些標(biāo)簽對應(yīng)的行為，就能實現(xiàn)這些體驗？

Shifa  03:17

顏色、音調(diào)都是標(biāo)簽，但和行為沒有固定的對應(yīng)關(guān)系，要和具體對象、場景結(jié)合后才對應(yīng)特定行為。

denglang  03:52



劉偉  07:09



劉偉  07:09

混饋真實存在于各種人工智能、自動化等開環(huán)、閉環(huán)各種情境中，既包括多個反饋也包括多個前饋過程，由于過于復(fù)雜，對于混饋研究目前仍是一個謎！

朱宗曉  08:06

這篇文章啥都沒說[尷尬]

劉偉  08:08

除了混饋中的反饋前饋之外，更有意思的是還有軟饋和硬饋，如道德和法律一般[咖啡]

朱宗曉  08:16

對于一個聊天機(jī)器人來說

朱宗曉  08:16

前饋是察言觀色，主動地說

朱宗曉  08:17

[圖片: 4d73b379856238b4d9f0b4aac905bd24.jpg(請在附件中查看)]

朱宗曉  08:17

反饋分兩種，一種是猜自己主人會怎么說

朱宗曉  08:17

還有一種是猜對方會怎么說，這個難度更大

朱宗曉  08:17

總之都是無限空間非完美信息博弈要研究的問題

朱宗曉  08:18

大家覺得實現(xiàn)的可能有多大[Salute]

????  08:38

[視頻: 0838210902175b0bd7e16284.mp4(請在附件中查看)]

王培  08:42

@林峰 缺乏自我意識？

lyx  08:44

我記得有限空間非完美信息非零和博弈的最優(yōu)策略是不可計算的？

朱宗曉  08:48

@王培?別那么高大上[偷笑]找只雞??試試

朱宗曉  08:49

觀察一下，看能不能揣摩出??的心理活動[呲牙]

朱宗曉  08:50

@lyx?,不可計算是什么意思？

lyx  08:53

就是像停機(jī)問題

王培  09:00

@lyx 策略可窮舉嗎？“非完美信息”是概率嗎？如都是，則可以算數(shù)學(xué)期望。

朱宗曉  09:00

@lyx 停機(jī)問題我是知道的，但不知道與我的問題有什么關(guān)聯(lián)？

朱宗曉  09:01

@王培，我們的區(qū)別是高斯和洪堡式的，我真是太會抬舉自己了[調(diào)皮]

????  09:01

@王培?只是它不知道鏡子里的是自己 [憨笑]

朱宗曉  09:02

小孩子第一次也會這樣吧

王培  09:06

@朱宗曉 對話場景不是經(jīng)典意義下的博弈。如果要用博弈論，首先要明確定義評價函數(shù)。

lyx  09:06

一般非零和博弈要考慮混合策略就是randomized策略，從博弈論的觀點來看。所以整個策略空間是不可窮舉的

朱宗曉  09:07

@王培 ，我上次說，猜出對方下一句會說啥，算不？

王培  09:08

那一般不是對話的目的。

朱宗曉  09:08

咱們?nèi)耸歉鶕?jù)人生閱歷和談話進(jìn)程來猜的

Shifa  09:09

鏡子測試，有些鳥類能通過，大多數(shù)狗能通過，人類嬰兒18個月前一般不能通過

王培  09:10

我們對話時的確要預(yù)估對方的反應(yīng)，但這不是對話的唯一目的。我們不是為對話而對話。

朱宗曉  09:10

越聊猜中對方下一句要說啥的可能性越大

朱宗曉  09:10

但是聊天機(jī)器人可以以此為目的

朱宗曉  09:11

現(xiàn)在最好的聊天機(jī)器人，也不能長時間陪人類聊天

朱宗曉  09:11

除非是像我兒子這么大的小孩

王培  09:11

這就是我為什么不認(rèn)為“聊天機(jī)器人”和智能有多大關(guān)系。抱歉。[調(diào)皮]

朱宗曉  09:12

猜中對方下一句要說啥，誘導(dǎo)對方接著說啥，這就是智能了

朱宗曉  09:12

現(xiàn)在不行不等于未來不行喔

朱宗曉  09:13

我可以先做一個提問機(jī)器人

朱宗曉  09:13

先拋出一個問題

朱宗曉  09:14

然后從對方的回答中，提取出下一個問題

王培  09:14

@朱宗曉 不是做得到做不到的問題。AI界對ELIZA效應(yīng)已經(jīng)有很多討論了。

朱宗曉  09:18

“計算機(jī)科學(xué)中所謂伊莉莎效應(yīng)，指的是人有一種趨向，在下意識中以為電腦行為與人腦行為相似。其實只是以簡單的語言模式識別為基礎(chǔ)的巧妙運(yùn)用。從具體形式上看，伊莉莎效應(yīng)指的是，‘人們閱讀由計算機(jī)把詞串成的符號序列，往往讀出了這些符號并不具備的意義’。更一般地，伊莉莎效應(yīng)描述這樣一種情形，僅僅依據(jù)系統(tǒng)的輸出，用戶就把計算機(jī)系統(tǒng)理解為具有‘其控制（輸出）軟件完全不可能取得的內(nèi)在素質(zhì)和能力’，或者，‘以為（輸出）反映了實際上不存在的更大的因果關(guān)系’。”

朱宗曉  09:19

以上百度

朱宗曉  09:19

其實，對于人的所謂智能也有類似的一個效應(yīng)，可以叫做【反伊莉莎效應(yīng)】（Anti-Eliza Effect），就是很多時候我們把人類的能力神話，忽視了其中 90% 以上的成分其實很水，情不自禁地把所謂腦力勞動歸于人類獨有的靈性。它實際上是同一個效應(yīng)的另一面。

王培  09:19

如果只是以“長時間陪人類聊天”為目的，這是做得到的，也確實有市場，但這完全不是我所理解的智能。當(dāng)然我們可以有不同看法。大概目前同意你的人起碼在國內(nèi)更多。

朱宗曉  09:25

根據(jù)小i老總的說法，聊天的話通常直到第四輪就進(jìn)行不下去了

朱宗曉  09:25

這是他們之所以放棄聊天主攻客服的原因

朱宗曉  09:26

微軟小冰主攻聊天，但也差強(qiáng)人意，所以弄了很多花活增強(qiáng)粘性

Shifa  09:34

聊天不過兩個目的，一個是了解對方，一個是讓對方了解自己。聊天機(jī)器人做不到了解人，人也很難通過聊天了解機(jī)器

朱宗曉  09:35

聊天機(jī)器人可以了解人啊

朱宗曉  09:35

通過聊天

朱宗曉  09:35

你說的每句話它都記得

朱宗曉  09:36

還可以分析出你的性格特征，脾氣秉性，愛好特長

Shifa  09:36

記得不一定了解吧

Kel~\(≧▽≦)/~len  09:36

這不是真真的了解

Kel~\(≧▽≦)/~len  09:37

機(jī)器自己不能進(jìn)一步作評價

Kel~\(≧▽≦)/~len  09:37

根據(jù)聊天的內(nèi)容

陳  09:37

系統(tǒng)的“想”要存續(xù)和不“想”也存續(xù) — 輸入與存續(xù)的關(guān)聯(lián) — 基于存續(xù)的輸入前饋選擇 — 人工系統(tǒng)的存續(xù)（生命）設(shè)計及其與輸入的關(guān)系 — 例如基于聊天時長的“維生”（評價）機(jī)制

朱宗曉  09:38

那是沒有人做，這個評價很難嗎？

Shifa  09:39

很難，涉及意識認(rèn)知

陳  09:39

評價策略可以相互競爭產(chǎn)生

朱宗曉  09:40

我指根據(jù)對方說的話分析對方是一個什么樣的人

陳  09:40

類似博弈中的評價函數(shù)

Shifa  09:40

要不自然語言處理就不是問題了

Shifa  09:41

理解一個人是終極AI

快樂健康  09:42

理解在數(shù)學(xué)上等于自我意識

陳  09:42

先簡后難

朱宗曉  09:42

好吧，我們通過聊天內(nèi)容，分析出他是九型性格中的哪一種

朱宗曉  09:43

這個容易點吧

陳  09:43

理解及在此基礎(chǔ)上的共情，是一種擬真，簡單做法就是初步原型分類

朱宗曉  09:43

我們可以設(shè)置聊天話題，設(shè)定提問

陳  09:44

但提高精度就很難

朱宗曉  09:45

做到云端情人那樣是很難

陳  09:45

基于現(xiàn)有人類分類知識，不若基于淘汰機(jī)制產(chǎn)生的評價函數(shù)

朱宗曉  09:46

什么樣的淘汰機(jī)制

朱宗曉  09:46

淘汰什么東西？

Shifa  09:47

性格分類用途不大，并且人性多變，很多人在家和在外完全是兩個人

陳  09:49

類似于遺傳算法，淘汰“不好”的評價函數(shù)和對話策略

劉偉  09:50

對，多情境多性格多意向多模型

劉偉  09:50

如何協(xié)調(diào)這些‘’多‘’是關(guān)鍵

陳  09:54

對話是逐步展開的，根據(jù)對話過程逐步歸類，類型、情緒、傾向等

朱宗曉  09:54

那沒關(guān)系，你想表現(xiàn)出什么樣，就是什么樣

劉偉  09:54

喜歡有時涉及想要，愛常常關(guān)涉給予，老熊說過：‘‘ 數(shù)學(xué)證明，原則上可以寫成邏輯語句。但是如果真要怎樣做，數(shù)學(xué)家就沒法工作了。一句“顯然”，恐怕就是很多頁。所以人腦里面的某種東西在默默起作用。 ’’

朱宗曉  09:54

我們不指望通過一次談話，了解你的全部人生

朱宗曉  09:56

有一本書叫做微動作，F(xiàn)BI用來審犯人的

朱宗曉  09:56

是不是我們給聊天機(jī)器人配個攝像頭？

劉偉  09:57

也許有本反偵測的資料

Shifa  09:58

聊天，情境（我喜歡說場景）很重要，環(huán)境怎么樣，剛經(jīng)歷過什么事，準(zhǔn)備做什么事，等等

劉偉  09:59

有時還涉及非情境參與、滲透

Shifa  09:59

人一句話，“剛下班”，“明天要出差”，對方就明白8~9成了，而機(jī)器還摸不著頭腦

劉偉  10:00

個性化常識與多數(shù)通識

Shifa  10:01

是的，相互不了解的人很難聊起來

劉偉  10:01

就像與機(jī)器人聊天一樣

朱宗曉  10:01

所以不是機(jī)器人的問題

劉偉  10:02

還是機(jī)器人的問題吧

朱宗曉  10:02

是人善不善于聊天的問題

朱宗曉  10:02

人也要見人說人話，見鬼說鬼話

朱宗曉  10:03

見到機(jī)器人，當(dāng)然要說機(jī)器人常說的話了

陳  10:03

......

劉偉  10:03

若把機(jī)器人當(dāng)成鬼就沒事了

朱宗曉  10:04

我們假設(shè)機(jī)器人有一個秘密

朱宗曉  10:04

這個秘密只能通過聊天來破解

劉偉  10:04

有部電影叫《太空旅客》，就是人機(jī)聊天

陳  10:04

人為何有激勵去破解？

朱宗曉  10:04

破解這個秘密的人能夠獲得一億美元的獎金

朱宗曉  10:05

大家會跟這個機(jī)器人怎么聊

劉偉  10:05

與錢多少關(guān)系恐怕不大

陳  10:06

西部世界 [微笑]

朱宗曉  10:06

這是個比方，現(xiàn)在是需求不大

朱宗曉  10:06

為什么我兒子能跟各種聊天機(jī)器人聊得津津有味呢

朱宗曉  10:07

因為他心里沒有太多成見

劉偉  10:07

也許是和大人聊不到一塊

朱宗曉  10:07

天真無邪，無欲，無求，所以快樂

劉偉  10:08

他也許可以產(chǎn)生更多地虛構(gòu)

劉偉  10:08

有趣的虛構(gòu)

朱宗曉  10:08

那就不知道了，我覺得文字本身就有魅力

朱宗曉  10:09

尤其是不像正常人說出的文字

劉偉  10:09

他也許對圖畫更感興趣

朱宗曉  10:09

是一種不期而遇的驚喜

朱宗曉  10:10

而成年人往往加上了價值判斷

劉偉  10:10

現(xiàn)在搞圖像識別的正在與搞自然語言處理慢慢會師

朱宗曉  10:10

@劉偉 ，是的，他也喜歡發(fā)各種表情

朱宗曉  10:11

這都成了小孩間的例行儀式了，表情對戰(zhàn)

朱宗曉  10:11

大人很難理解和參與并樂在其中

劉偉  10:11

他們不喜歡文字的迷糊和復(fù)雜吧

劉偉  10:12

從小都是從看圖識字開始的

朱宗曉  10:15

其實我也喜歡發(fā)表情，一副圖畫勝過一千個文字

朱宗曉  10:15

只是能準(zhǔn)確表意的表情很少

劉偉  10:18

看圖可以自由想象，如讀好詩歌一樣

朱宗曉  10:19

那文字的想象空間更大

劉偉  10:20

小孩的畫、大人的字都可以自主彌聚虛構(gòu)伸縮自如

朱宗曉  10:20

張潮的《幽夢影》中的詩句：
所謂美人者以花為貌，以鳥為聲，以月為神，以柳為態(tài)，以玉為骨，以冰雪為膚，以秋水為姿，以詩詞為心，吾無間然矣。

朱宗曉  10:21

我敢說每個人想到的美人都不一樣

劉偉  10:22

小孩很難以此作為基礎(chǔ)展開

朱宗曉  10:23

外國人也不行啊，即使翻譯過去

朱宗曉  10:24

所以我還是覺得不是機(jī)器人的問題，人自己聊天就有問題

朱宗曉  10:24

我巴巴的跟你聊，和我拽拽的跟你聊，結(jié)果是不一樣的

朱宗曉  10:25

大家就把聊天機(jī)器人當(dāng)作那個很拽的人好了

劉偉  10:25

如同作家寫作一般，精神嚴(yán)重分裂

朱宗曉  10:26

我是打算給聊天機(jī)器人引入一個主動寫作軟件

朱宗曉  10:26

還沒談攏

劉偉  10:26

還是先讓機(jī)器人學(xué)會自言自語的比較好

朱宗曉  10:26

主動性，這個算是智能吧

朱宗曉  10:27

可以兩個機(jī)器人對聊，建立談話質(zhì)量的評分標(biāo)準(zhǔn)

劉偉  10:27

和阿爾法狗一樣左右手先練著

朱宗曉  10:28

關(guān)鍵這個評價體系不好建立

劉偉  10:28

人不在環(huán)

朱宗曉  10:28

人可以在外圍打分

朱宗曉  10:29

讓兩個機(jī)器人聊慢點

朱宗曉  10:29

人看著打分

劉偉  10:29

先自學(xué)成才，再拜師學(xué)藝

劉偉  10:30

最后華山論劍，出沒江湖

朱宗曉  10:31

[呲牙]路還長著呢

劉偉  10:32

像一站到底這種一問一答知識搜索的問題，人很難贏機(jī)器人，題目一出來幾乎沒有任何延遲答案就搜出來了。
可以嘗試打造一款邏輯推理“自然語言理解”的機(jī)器人吧，看看機(jī)器人能不能在面對不確定環(huán)境下能準(zhǔn)確理解問題并給出答案，選一種應(yīng)用場景來研究其算法。

劉偉  10:33

或可以看圖識境的機(jī)器人

朱宗曉  10:34

限定聊天所能使用的語句

朱宗曉  10:34

比方說英語九百句

朱宗曉  10:35

但是可以有不同的序列組合，上下文關(guān)系

朱宗曉  10:35

看能不能合情合理的聊下去

劉偉  10:35

還比如簡單的刑事案件情境識別

朱宗曉  10:36

做個福爾摩斯的平行人？

朱宗曉  10:36

現(xiàn)在可以做柯南的

朱宗曉  10:37

這個對細(xì)節(jié)要求太高了吧

劉偉  10:38

簡單的即可

劉偉  10:40

或根據(jù)一幅簡單的圖產(chǎn)生各種有依據(jù)的表述，在后期剪枝

朱宗曉  10:41

這不是李飛飛在做的嗎，google相冊也在做

劉偉  10:42

各有各的方法

劉偉  10:44

人產(chǎn)生意向性的源因也各不相同

朱宗曉  10:45

那就難了，李飛飛她們還是基于人工標(biāo)定，監(jiān)督學(xué)習(xí)的

劉偉  10:46

也可加上偽裝或假意，產(chǎn)生欺騙誘導(dǎo)[呲牙]

朱宗曉  10:46

這倒是提供了一個目標(biāo)

劉偉  10:46

她們的途徑也只是嘗試，通不通也不好說

劉偉  10:51

人的識別都是標(biāo)定性的嗎？還是半標(biāo)定性識別？或是非標(biāo)定性識別？抑或混合性識別？