作者:微信文章
相信很多人和我一样努力拥抱AI但并不是太清楚这个我们倾情相拥的对象,生自哪里,产自何地。我的溯源如下,供参考。AI从“理解语言”到“改变世界”的跃迁,每个里程碑都在解决前代的核心痛点,并开启新的可能性空间!一、符号主义时代(1950s–1980s):规则为王1950s至1980s是符号主义时代。人类为AI编写大量if-then规则,如1966年ELIZA通过关键词匹配模拟心理治疗师但毫无理解能力,1970sSHRDLU仅能在虚拟积木世界执行指令,因规则爆炸和无法处理歧义导致1980sAI寒冬。二、统计学习时代(1990s–2010s):数据驱动崛起1990s至2010s进入统计学习时代。N-gram模型通过预测下一个词实现基础语言处理但无法捕捉长距离依赖,2013年Word2Vec将词转化为向量理解词义关系却无法处理多义词,依赖人工特征工程且上下文理解薄弱。三、深度学习萌芽期(2010s–2017):神经网络复兴2010s至2017年深度学习萌芽期。2012年AlexNet用卷积神经网络证明神经网络潜力,RNN/LSTM虽能处理序列数据但单向处理且长距离遗忘。2014年Bahdanau提出注意力机制让翻译模型动态关注关键词仍属单向,2017年Google发表《Attention Is All You Need》提出Transformer架构实现自注意力机制让每个词同时关注句子中所有词,但此时主要用于机器翻译。四、2018年:BERT——教AI“双向理解”人类语言