【前沿探索】揭示LLM中外部幻觉的本质,探讨其产生机制与有效应对策略,实现模型输出的真实性—慢慢学AI053
写在前面
这是翻译自 Lilian Weng 关于外部幻觉的文章
Lilian Weng 2018 年加入 OpenAI 团队
提出了 Agent = 大模型+记忆+主动规划+工具使用
原文 2 万字,参考了 24 篇文章
幻觉的定义已经泛化为所有的错误都算
实际上并没有那么宽泛
Lilian Weng 做了限定,方便探讨
去年刚学 Prompt 的时候,以为
告诉 AI,只能生成系统中有的内容
如果不知道就说不知道
能解决幻觉问题
能改善不能消灭
后来尝试 CoT 等 Prompt 技巧
有改善不能消灭
以为通过微调模型总可以了吧
有改善不能消灭
微调很贵,ROI 打不平
那用 RAG 总可以吧
不说了,看 LiLian Weng 咋说吧
在大型语言模型 (LLM) 中,幻觉通常指的是模型生成不忠实、捏造、不一致或无意义的内容。作为术语,“幻觉”的含义已经扩展到模型犯错的情况。本文将重点讨论模型输出是捏造的,并且没有根据 (grounded) 提供的上下文或世界知识的情况,我们称之为外部幻觉。
幻觉主要分为两种类型:
上下文内幻觉:模型输出应该 ...
【独家揭秘】麦橘闭环理论:从哲学科班到AIGC大咖的逆袭之路—慢慢学AI044
写在前面
AI 带来了技术平权和设计平权
你被平权到了吗?
天赋重要还是努力重要
我们的天赋被埋没了吗?
因为好奇尝试 AI,如何保持灵感
咋折腾才不腻?
跨界天才的崛起,普通人能学到什么在 AI 迅速改变艺术创作领域的今天,一个名叫麦橘的年轻人的故事引起了广泛关注。这个年轻人是谁?他又是如何崛起的?
他的经历就像是一部跨界天才的成长传奇:哲学系毕业,曾是金融精英,如今却成为了 AI 数字艺术的先锋。这样的转变让人惊叹不已。麦橘因其大胆创新的“麦橘”模型而声名鹊起,他戏称要”洒遍他的橘种”。然而,当见到他本人时,却惊讶于他那羞涩的大男孩形象。这种反差不禁让人思考:是什么样的经历塑造了这样一个独特的艺术家?
分享中,麦橘坦言,之所以选择哲学专业,是源于他希望探索更深层的人生思考。豆蔻之年,能有如此从容,真是让人羡慕不已。也提到他曾鼓励家族后辈,勇敢试错,多方探索。
对麦橘认知的起点始于 2023 年的 AI 乐园,那时 ChatGPT 刚刚流行,MidJourney 还是小众圈子,SD 的门槛也很高。AI 乐园的内容确实突破了我的个人审美极限,加上他长期以来的形象,让我一直 ...
【无界2050】当科技遇上自愿者,一场跨界的思想碰撞盛宴!
写在前面据说 2017 年,阿里云奠基人王坚博士看到一组数据,全球35 岁以下人口占比有50%。同时根据他的经验,大部分的机会给了成功人士,于是就想着办这样一个年青的人聚会,直到 2050 年。而对于年青人而不是年轻人,一个非常好的榜样是 52 岁学开飞机,拿着自拍杆追日出。显然,如果 30 岁就开始养生,恐怕不太适合。而第一次看到介绍文章时,一度以为 自愿者 是笔误,自愿者也就是自己愿意来的人,这非常 2050。
初遇 2050,火箭机器狗和马在杭州的云栖小镇上,每年 4 月的最后一个周末都会举行一个年青人的聚会,发起人是阿里云的奠基人—工程院院士王坚博士。今年的活动上,见到了真正点过火,13 米高的火箭。见到机器人,机器狗列队,还有真正的马,甚至还在纠结为了迎接马的到来,打算要放弃卡丁车(轻、强动力)。活动里有真正硬核科学,有院士,教授,青年学者,有带着小朋友横渡英吉利海峡的自愿者,也有 AI+即兴剧这样的跨界娱乐天花板。当然,同一个会场里有人在讨论学术问题,有人在旁边打牌,也是很和谐的。
离谱是 2050 的主旋律
今年的时间是 4.26-4.28 ...
挑战100天100个GPTs045.九宫格思维模型—慢慢学AI067
#挑战100天100个GPTs
写在前面
你真的了解你的产品吗?
考虑过它过去、现在和未来的发展吗?
竞争对手呢?他们的产品又如何?
阴性、中性、阳性环境下的表现呢?
九宫格分析,帮你全面思考!
别让思维局限,错失良机!
你想成为下一个索罗斯吗?
还是下一个被收割的“韭菜”?
掌握九宫格思维模型,提升你的决策力!
九宫格分析思维模型,九宫格分析法可以拓展自己的思路,包含: 系统轴: 子系统,系统,超系统。时间轴: 过去,现在,未来。空间轴: 阴性环境,中性环境,阳性环境。九宫格思维模型可以应用事物和相关事物在不同时间阶段不同环境的形态。比如一个产品,一个商业模型等。这个思维模型给我们的启发还有,一个事物未来的发展并不是基于单一纬度,可能是很多因素在共同作用,就比如博格巴的转费会在去年是一亿,所有人都觉得好贵好贵。但谁知今年出现了黑天鹅事件,巴黎花费 2.22 亿购买了内马尔,此时各大球星都飙升至一亿以上。说明这个事件的出现,提升了所有人的心理域限,所有人因此而改变了。而索罗斯的羊群效应,就是应用了这样的原理,他会预测自己的一个行为对人内心的影响,他会拼命买进股票,然后突然卖掉很多, ...
挑战100天100个GPTs046.启发式偏差思维模型—慢慢学AI068
写在前面
启发式偏差思维模型:识别和克服你的本能判断
你是否因情感或近期经验而做出重大决策?
金融风险的处理方案,你怎么评价?
做事情的人跟你的关系如何?
启发式偏差思维模型可以帮助你在自动化思维下做出更明智的决策
学习这个模型,让你的大脑脱离情感化简,进入现实化的思维!
启发式偏差思维模型,模型概览
效果呈现
体验地址
期望目标[AI 生成的目标]
GPTs 源码1[GPTs源码占位符]
Prompt 收获[AI 生成的 Prompt 收获]
补充说明延伸问答什么是启发式偏差思维模型?启发式偏差思维模型指的是我们大脑在快速决策时,经常依赖一些简单的、经验性的法则(称为启发式),这些法则虽然能够帮助我们快速做出判断,但在某些情况下却会导致系统性的偏差,也就是不合理的、错误的判断。简单来说,就像我们走捷径一样,虽然快,但容易走错路。
启发式偏差思维模型的主要特点是什么?
高效性: 启发式思维让我们能够在信息不完整、时间紧迫的情况下迅速做出决策。
简化性: 它将复杂的决策问题简化,让我们更容易理解和处理。
潜意识性: 很多时候,我们甚至没有意识到自己在使用启发式思维。
易出错 ...
挑战100天100个GPTs044.破束缚思维模型—慢慢学AI066
#挑战100天100个GPTs
写在前面
你是否经常感到束缚,无法突破瓶颈?
被规则、经验、本能所限,找不到新方向?
你的思维是否也困在固有的框架里?
想不想打破束缚,释放潜能,找到新的可能?
破束缚思维模型,助你开启全新认知!
从前提、时空、格局等多维度突破限制,实现自我飞跃!
是时候打破思维的牢笼,探索更广阔的世界了!
破束缚思维模型,突破包含: 前提突破,时空突破,格局突破,系统突破,需求突破,辩证突破,角色突破,视角突破,逻辑突破等等。束缚源于边界,规则,框架,经验,人的本能,视角等等。
效果呈现
体验地址
期望目标[AI 生成的目标]
GPTs 源码1[GPTs源码占位符]
Prompt 收获[AI 生成的 Prompt 收获]
补充说明延伸问答什么是破束缚思维模型?破束缚思维模型,也称为“反其道而行之”模型,是查理·芒格常用的思维模型之一。它鼓励我们不要被现有的框架、规则和假设所束缚,而是从相反的角度思考问题,寻找非传统的解决方案。
这个模型的核心是挑战现状,质疑“默认选项”,并探索所有可能的选择,即使它们看起来很奇怪或违反直觉。通过这种方式,我们可以突破思维 ...
挑战100天100个GPTs043.隐含前提思维模型—慢慢学AI065
#挑战100天100个GPTs
写在前面
你为什么总是感到焦虑?
你为什么总是难以拒绝别人?
你为什么总是陷入自我怀疑?
也许,是时候审视你的“隐含前提”了。
这些潜意识的假设,
正如代码般操控着你的人生。
你,想成为代码的编写者吗?
隐含前提思维模型,一个人有的很多观念,情绪,行为,源自一个人形成的隐含前提,比如: 男盆友就应该包容我的坏脾气,面对不熟的人我不能拒绝,面对别人的要求,我就应该有善意的包容。这种隐含前提,也会随着时间,空间而不断变化。隐含前提,好处是可以加快一个人信息处理速度,比如,在远古时期,看见狮子就跑的人生存能力更强,这样的人就成了我们的祖先,而在那思考为什么的就被吃掉啦~而且,有固化一年前提的人容易形成自我一致性,有稳定产生的安全感。同样的,这些隐含前提也容易让人固执,偏见.
效果呈现
体验地址
期望目标[AI 生成的目标]
GPTs 源码1[GPTs源码占位符]
Prompt 收获[AI 生成的 Prompt 收获]
补充说明延伸问答什么是隐含前提思维模型?隐含前提思维模型是指,我们所说的话、做出的决定,通常是基于一系列没有被明确说出来的前提 ...
挑战100天100个GPTs042.非SR思维模型—慢慢学AI064
#挑战100天100个GPTs
写在前面
思维裸奔?不,是超越本能的飞跃!
刺激来了,你还是提线木偶吗?
被动响应,是你放弃的选择权?
深思熟虑的行动,让生活不再是条件反射的舞台。
从“刺激=反应”中觉醒,主宰你的每一个决定。
选择,是插入刺激与反应的自由之刃。
拒绝无意识生活,掌握“非 SR”思维密钥。
你,甘心做外界操控的傀儡吗?
主动思考,让每次选择都掷地有声。
改变,从意识到自己不是反应的奴隶开始。
非 sr 思维模型,很多人在思考时基于刺激,反应。缺少中间过程,这个中间过程,就是自己的选择,要把被动变成主动,从应激的刺激反应到刺激,思考后的选择,反应。
效果呈现
体验地址
期望目标[AI 生成的目标]
GPTs 源码1[GPTs源码占位符]
Prompt 收获[AI 生成的 Prompt 收获]
补充说明延伸问答什么是非 SR 思维模型?这里其实有个误解,“非 SR 思维模型”并非一个独立的思维模型。查理·芒格提倡的是多元思维模型,他借鉴了来自不同学科的有效模型来解决问题,这些模型并非他独创。“SR” 通常指的是“强化和刺激”(Stimulus-Respo ...
挑战100天100个GPTs041.不平衡性思维模型—慢慢学AI063
#挑战100天100个GPTs
写在前面
世界是不公平的,你发现了吗?
火车比马车慢?那是 100 年前!
非洲没有高铁?那是过去式!
弯道超车,你以为是运气?
别人眼里的红海,也许是你的蓝海!
时代抛弃你,连招呼都不打!
你还在用老眼光看新事物?
抓住不平衡,就抓住了机会!
什么时候都是最好的时候,你信吗?
机会,就藏在你习以为常的地方!
不平衡性思维模型,一个事物的发展,从诞生到发展,应用,大规模普及,都有一个过程。从一个国家到另一个国家也有先后顺序之分。这种不平衡性,有两种方式一种是自身发展的不平衡性,诞生,成熟,应用,可以说是技术本身随着时间的发展。第二种是空间的变化,不同地区普及这项技术的诞生成熟应用不同,因而有的不平衡性。比如: 火车刚开始很慢,比马车还慢,现在呢?不同地区的火车发展程度也不同。这也是为何我国会帮非洲建铁路,因为趋势不可避免,虽然铁路在我国很成熟,但在国际在非洲,还有很多机会。而互联网,一开始我国很多的 app 都是照搬美国,也是利用这种不平衡性。这几年,国内互联网愈发成熟,猎豹看国内安全移动市场已成红海,就去切入国际市场,犹如狼入羊群。只用两年就成了 ...
挑战100天100个GPTs040.损失规避思维模型—慢慢学AI062
#挑战100天100个GPTs
写在前面
损失规避:为何丢 100 块的痛,远超捡 100 块的乐?
赢得世界又如何?失去一隅足以让我们夜不能寐。
“不赔就是赚”,这句老话,藏着人性深处的秘密。
同样是 100 元,为何失去时心如刀割,获得时波澜不惊?
购物退款总觉得赚到,实则只是回到原点,为何欣喜若狂?
投资犹豫时想想:避免亏损为何比追求盈利更牵动你心?
恐惧损失,是阻碍我们向前一步的隐形枷锁吗?
谈判桌上,为何守住底线比争取更多,更能激发斗志?
生活选择题:两害相权取其轻,真的只是保守吗?
如果规避损失是天性,那么勇于冒险才是成长的跳板?
损失规避思维模型,是指人们面对同样数量的收益和损失时,认为损失更加令他们难以忍受。
效果呈现
体验地址
期望目标[AI 生成的目标]
GPTs 源码1[GPTs源码占位符]
Prompt 收获[AI 生成的 Prompt 收获]
补充说明延伸问答什么是损失规避思维模型?损失规避思维模型是行为经济学中的一个重要概念,由丹尼尔·卡内曼和阿莫斯·特沃斯基提出。它描述了人们在面对潜在的收益和损失时,对损失的敏感度要远大于对等量收益的感受。简单来 ...