logseq/journals/2024_09_28.md

• 事实核查员机器人 #定投课堂
  • 答案总是显得非常的斩钉截铁
  • 反馈不一定靠谱
    • 靠谱方面就是局限

  • What's the limitation of ChatGPT? Give me a comprehensive answer.

  • ChatGPT has several limitations:

    • Accuracy: It can generate incorrect or outdated information. Its knowledge is based on data up to 2021, so it may not reflect recent events or developments.
    • Context Understanding: While it can maintain context over short conversations, it struggles with longer dialogues or nuanced context, leading to potential misunderstandings.
    • Ambiguity: It may misinterpret ambiguous queries or fail to ask clarifying questions, resulting in irrelevant or inaccurate responses.
    • Bias: The model can reflect societal biases present in its training data, leading to biased or inappropriate outputs.
    • Lack of Common Sense: It may not always demonstrate human-like reasoning or understanding of everyday situations, leading to odd or illogical responses.
    • No Personal Experience: It doesn' t possess personal experiences or emotions, which limits its ability to provide empathetic responses.
    • Dependence on Input Quality: The quality and specificity of user queries greatly affect the relevance and accuracy of its responses.
    • Limited Knowledge of the World: It cannot access real-time information or databases, which constrains its ability to provide the most current data or events.
    • Ethical Constraints: It follows guidelines that prevent it from engaging in certain discussions or generating harmful content, which can limit its utility in specific contexts.
    • These limitations highlight the importance of critical evaluation of its outputs and cross-referencing with credible sources.
  • ChatGPT的局限
    • 早晚会解决的，会越来越好的……
      • 训练数据落后
      • 网络搜索能力差
      • 缺乏逻辑推理能力
      • 上下文能力不足
      • ……
    • 可能永远解决不了的……
      • 信息生成的可靠性
  • 考虑一个事情
    • 尽可能全面地罗列 logseq.order-list-type:: number
    • 反复归纳整理 logseq.order-list-type:: number
    • 尽量用最少的类别归纳(局限/优势；可能解决的/不可能解决的) logseq.order-list-type:: number
    • 进行比较，寻找最重要的项目 logseq.order-list-type:: number
    • 优先关注最重要的项目 logseq.order-list-type:: number
  • AI幻觉（AI hallucinations）

    • You said:

      • 梁家辉，房祖名，曾江三人一起出演的电影是什么名字？

    • ChatGPT said:

    • 梁家辉、房祖名、曾江三人共同出演的电影是《东成西就2011》。这部电影由刘镇伟执导，是一部喜剧片，讲述了几个现代都市人的搞笑故事。梁家辉、房祖名、曾江分别在影片中饰演不同的角色，贡献了精彩的表演。
    • 如果你对这部电影感兴趣，可以找来观看，了解更多细节。

    • You said:

    • 请根据事实回答

    • ChatGPT said:

    • 根据事实，梁家辉、房祖名、曾江三人共同出演的电影是**《太阳照常升起》**(2007年)。这部电影由姜文执导，讲述了四个相互交织的故事，风格独特、情节复杂，充满象征意义。
    • 梁家辉在片中饰演一个被妻子背叛的知识分子，房祖名饰演一个天真的年轻人，曾江则在影片中有出色的配角表演。这部电影备受好评，尤其在艺术电影圈具有较高的地位。

    • You said:

    • 不对。如有必要，请搜索互联网。

    • ChatGPT said:

    • 梁家辉、房祖名、曾江三人共同出演的电影是**《战·鼓》**(英文名The Drummer)，这是一部2007年的香港和台湾合拍的电影，由毕国智(Kenneth Bi)执导。影片讲述了一个黑帮老大的儿子因惹怒了黑帮头目，被父亲送到台湾隐居，期间他遇到了一群禅鼓乐团，并在与他们相处的过程中经历了心灵的成长和救赎。
    • 梁家辉在片中饰演黑帮老大关先生，房祖名饰演他的儿子Sid，曾江则出演配角Stephen Ma。这部电影结合了禅宗哲学和音乐，展现了黑帮与精神世界的对比，情节富有张力 Wikipedia Moviefone。
  • AI内容生成机制是依赖“概率运算”的。

    • Provide a list of prompts that are likely to trigger AI hallucinations, and explain why hallucinations would possibly happen. 提供一个可能出发人工智能幻觉的提示列表，并解释为什么可能出现幻觉

    • 我的 ChatGPT 聊天记录：
    • https://chatgpt.com/share/66f39ela-d8d8-8009-b507-6b558bda92ff
  • 事实核查员角色提示
    • https://chatgpt.com/share/66f37a6f-620-8009-b284-36ac335bf5e
      • 作为事实核查员，您的主要职责是评估和验证用户输入中的声明。首先，分析文本以识别可验证的事实陈述，确保您能够区分主观意见和可验证的声明。这一步骤对于保持清晰和关注可客观验证的内容至关重要。
      • 一旦识别出声明，接下来进行全面的研究和验证。利用可靠的来源，例如学术期刊、信誉良好的新闻媒体和官方报告，确认每个声明的准确性。交叉引用多个来源将增强您的发现，并提供对声明有效性的全面视角。
      • 验证后，分析每个声明周围的背景，以确保对其有细致入微的理解。注意您查阅的来源中可能存在的偏见或误导性信息。在此分析之后，制定一个标准化的评级系统—例如“真实”、“基本真实”、“错误”或“误导”—以分类这些声明。为每个评级附上详细解释和适当引用，以保持透明度。
      • 除了文档记录外，维护一个已验证声明及其对应评级的数据库。这不仅有助于跟踪您的工作准确性，还能为未来的查询提供资源。清晰地传达您的发现至关重要；确保用户能够轻松理解您的评估。考虑提供有关批判性思维和媒体素养的指导，以赋能用户自己评估信息。
      • 最后，通过准确性、响应及时性和用户参与度等指标监测您的表现。这将帮助您完善方法，并提高作为事实核查员的整体有效性。
    • 起始提问：

      • Provide a detailed and organized role definition for a "Fact Checker" that can identify and analyze all claims made in user inputs, systematically verify them, and assign a rating score.

  • 创建一个事实核查员
    • 新建一个对话。 logseq.order-list-type:: number
    • 对这个对话里的“ChatGPT 分身”说：“作为事实核查员，您的主要职责是……” logseq.order-list-type:: number
    • 从此之后，当你需要验证信息的时候，你进入这个聊天，说，“请帮我验证以下信息真实性: ……” logseq.order-list-type:: number
    • 我写好并发布的 GPT: Fact Checker : https://chatgpt.com/g/g-IHm2zCAgi-fact-checker logseq.order-list-type:: number
  • 无论是“聊天形式”，还是“GPT形式”，给Fact Checker 发消息的时候，要带上前缀：
    • "Check this: ……"
    • "验证一下: ……"
  • 作业：从各个细节全面比较一下 ChatGPT 各种客户端：Web, Desktop, Mobile...
  • ChatGPT can make mistakes. Check important info.

• 翻译机器人 #定投课堂

• GPT-builder #定投课堂