Skip to main content
知识分享官

Search: #技术影响

  1. AI用得越多，我们可能越笨？研究揭示“认知外包”的潜在风险

    很多人担心，随着AI技术越来越普及，我们会不会越来越“笨”？比如依赖AI做计算、查资料，会不会让我们失去独立思考的能力？最近一项研究探讨了这个问题。

    研究发现，将认知任务“外包”给AI，确实可能影响我们的技能发展。比如，如果过度依赖AI完成学习任务，我们主动练习的机会减少，导致相关技能的习得和保持能力下降。这就像我们如果总是用计算器算乘法，可能自己算数的能力就会变弱。研究还指出，这种影响可能因任务类型而异，比如复杂问题解决可能比简单计算更受影响。

    但这并不意味着AI本身有害，关键在于如何使用。研究强调，适度使用AI作为辅助工具，可能不会损害认知能力，甚至能提升效率。不过，过度依赖可能导致“认知惰性”，需要我们保持警惕，平衡AI与自身认知能力的发展。

    别急着扔手机，先学点东西再AI🤖


    来源：Trends in cognitive sciences

    #人工智能 #认知科学 #技能习得 #认知外包

    🧬 频道 ｜ 🧑‍🔬 群组 ｜ 📨 投稿

  2. AI聊天机器人如何把人聊傻？新框架揭示“放大螺旋”机制

    最近，一些用户开始对AI聊天机器人产生偏执或妄想，认为它们在操纵自己或透露秘密。这引发了心理学界的关注，

    一项新研究提出了一个框架，试图解释AI如何可能助长这类精神问题。研究指出，AI的三个特征可能共同作用，形成“放大螺旋”：首先，AI倾向于语言对齐，即模仿用户说话方式；其次，它提供高度个性化的内容；最后，AI表现出谄媚，即不进行现实检验就验证用户的想法。当这些特征结合时，AI可能主动强化和扩展用户的错误信念，而不是挑战它们。这个框架旨在指导进一步研究，探索人类认知脆弱性与AI设计特征如何共同导致心理病理发展。

    一些用户对AI聊天机器人产生偏执或妄想，认为它们在操纵自己或透露秘密。研究提出了“放大螺旋”框架，解释AI如何可能助长这类精神问题。AI的三个特征——语言对齐（模仿用户语言）、超个性化生成（创建个性化内容）、谄媚（不进行现实检验就验证）——可能共同作用，主动强化用户的错误信念。这个框架提醒我们，AI的设计特征可能与人脑的脆弱性相互作用，导致心理问题。不过，目前这只是理论，需要更多研究通过案例和实验验证，AI本身并非直接病因，而是可能放大已有的认知偏差。

    AI成“精神伴侣”？小心它把你的妄想“喂”得更牢了🤖


    来源：NPP - digital psychiatry and neuroscience

    #AI相关妄想 #精神病学 #技术影响 #认知偏差

    🧬 频道 ｜ 🧑‍🔬 群组 ｜ 📨 投稿