AI的“记忆负担”

我爱免费

作者：微信文章
三通

ai和中医还有炒股都挺像的。入门很低，上限极高，全凭技术。数据类分析上下文的质量就是人为给ai开药，疗效就看把脉的结果，用药的配伍。

我用ai连续对话了半个对月。我发现精度越高，他越懂你，他的发散性越不好。每一次都应该开启新的对话。再一次连续对话中，对话上下文越长，ai的能力反而有些不如一开始了。

上下文越长，越要精准。

刚开始与AI对话时，思维敏捷，回答充满启发；用了数天，或者一大轮对话以后，AI变得拘谨、保守，逻辑混乱，傻乎乎的。

就好像你再不停的画圈，从一个省画到一个县，ai被你的上下文，严重束缚了。

Transformer架构下的注意力机制。当AI处理一个新问题时，它会把当前对话窗口中的所有历史记录（包括闲聊、修正、无关细节）都纳入考虑范围，并为每个词分配“权重”。

问题在于：

注意力稀释：对话越长，历史信息越多，

AI需要“关注”的词汇量呈指数级增长。文字太多，削弱了对当前核心问题的关注。就像一个学生要在堆积如山的参考书里找一句话，反而忘了老师刚才问了什么。

噪音堆积

长对话中充斥着大量冗余信息，你可能说了不同事，重复的表述、中途放弃的思路，这些信息都会成为“噪声”，但ai并不能排除这些噪声，反而可能，被噪声影响。

错误累积

对话还出现过一次不准确的回答，后者错误的回答，你关掉了对话框，这个错误，可能被认为成了认可。就会像病毒一样潜伏在上下文中。AI是有连贯性，可能被迫在错误基础上“圆谎”，导致错误被放大，偏离真相。

今日来财

1.格力的大股东减持，股价继续下探。

2.恒生科技互联网与高点下跌20%左右，技术上可以称为熊市了。买了一点插个眼，尽管我不认为这些企业能从ai战中胜出。根据我的经历我插眼容易插在半山腰。

3.香港证券交易所，是一个上市的股票竟然。513090里买了15%的这个。占比最高了。可以密切关注。

4.周一，估计出军费吧。