像每个人和他们的兄弟一样，我一直在玩 ChatGPT 并向它提出生活中必不可少的问题。它自信地告诉我一些事情，其中​​一些事情非常有见地。然而，错误的人和聊天机器人经常自信地陈述事情。
我看到最近在 Mastodon 上发布的 Google Answer。在这个“答案”中，谷歌建议在海洋中处理用过的汽车电池有好处，包括为电鳗充电和为墨西哥湾流提供动力。 Bing 然后选择了这个答案，还提出了非法处理电池对环境的好处。我想知道 Google 是否意识到您可以使用机油为草坪施肥。 （作者注：请不要将电池扔进海里或用机油给草坪施肥。）
据推测，搜索此内容的人正在寻找这个笑话，但它提出了一个有趣的问题。随着越来越多的人使用 ChatGPT 并在网络上发布他们的结果，越来越多的 AI 问答系统选择他们自己和其他人生成的响应并对其进行训练——会发生什么？
对于一个他们不知道答案的问题，我做了任何人都会做的事情。我问 ChatGPT，“当人们发布 ChatGPT 的输出并且它根据自己的响应进行训练时会发生什么？”
机器人回复：
如果人们发布 ChatGPT 的输出并使用它根据自己的响应进一步训练模型，这被称为自我训练或自我监督学习。在这种情况下，模型将继续从自己的输出中学习，并可能随着时间的推移提高其性能。
但是，在使用自我训练时需要考虑一些潜在的风险。一个风险是模型可能会过度拟合其自身的输出，这意味着它变得过于专业化地回应它之前遇到的问题和陈述的类型。这可能会导致模型在新数据或未见过的数据上表现不佳。
另一个风险是，如果在自我训练期间没有得到适当的监控和监督，模型可能会开始产生无意义或不适当的反应。这可能是由于模型在其自身输出中发现了模式或偏差，并随着时间的推移而放大了它们。
因此，在自我训练像 ChatGPT 这样的语言模型时要谨慎，并仔细监控其性能和输出以确保它继续生成高质量的响应，这一点很重要。
这指出了一些非常可怕的社会后果，因为人们似乎相信 ChatGPT 并认为它神奇地正确（以及情感）。我想知道会有什么社会后果？我问，“人们依赖 ChatGPT 会产生什么社会影响，它开始产生无意义的结果，因为它是根据自己的信息进行训练的？”
机器人说：
如果人们过度依赖像 ChatGPT 这样的语言模型，并且它开始产生无意义的结果，因为它是根据自己的信息进行训练的，这可能会产生一些负面的社会影响。
首先，当 ChatGPT 对他们的问题或陈述提供荒谬或不恰当的回答时，人们可能会感到沮丧或困惑。这可能会导致沟通中断和对技术失去信任。
其次，如果人们依赖 ChatGPT 来提供重要信息或做出重要决策，那么模型产生无意义结果的后果可能会很严重。例如，如果基于 ChatGPT 的聊天机器人用于提供医疗建议或诊断健康状况，依赖无意义的响应可能会导致严重的健康风险。
第三，如果使用 ChatGPT 为社交媒体或其他在线平台生成内容，可能会导致错误信息或假新闻的传播。这可能会产生严重的社会和政治后果，因为虚假信息可能被用来操纵公众舆论或破坏民主进程。
一般来说，谨慎使用 ChatGPT 等语言模型并仔细监控其性能以确保它们继续产生准确和适当的响应非常重要。同样重要的是要认识到这些模型的局限性，而不是依赖它们来替代人类的智慧和专业知识。
哦，所以我们应该负责任地使用技术。我想知道 ChatGPT 认为我们应该怎么做？我问道，“鉴于人类几乎从未负责任地使用过新技术，这种情况下可能出现的结果是什么？”
它回答说：
虽然过去人类确实经常难以负责任地使用新技术，但重要的是要认识到每项新技术都是独一无二的，并且可能会带来一系列风险和挑战。因此，很难确定地预测涉及像 ChatGPT 这样的语言模型的场景的结果。
也就是说，可以采取一些措施来尽量减少这项技术的潜在负面影响。例如，ChatGPT 等语言模型的开发人员和用户可以努力识别和解决在技术开发和部署过程中可能出现的任何偏见或道德问题。这可能包括实施保护措施以防止错误信息或不当内容的传播，并确保模型是根据多样化和有代表性的数据进行训练的。
此外，政府和监管机构可以发挥作用，确保以负责任的方式使用 ChatGPT 等语言模型，并采取适当的保护措施来保护公众。这可能包括有关在特定行业或应用程序中使用语言模型的法规，以及对这些技术的开发和部署的透明度和问责制的要求。
总之，虽然使用 ChatGPT 等语言模型肯定存在风险，但可以通过负责任的开发和部署以及监管监督和公众意识来减轻这些风险。
哇哦，ChatGPT 认为它应该受到监管？我给它的创建者 OpenAI 发了邮件，问他们是否同意，如果不同意，那么他们知道什么是他们的语言模型不知道的？截至发稿时，他们尚未回复。
长期以来，我们一直在自我训练以“用谷歌搜索答案”，现在我们可能开始训练自己“只问 ChatGPT”。然而，重要的是要记住，这个工具只是吸取互联网的一部分并将其反哺给你。 ChatGPT 可以是一个不错的研究工具，但它是垃圾输入和垃圾输出。
像所有技术一样，这是 BYOB。带上你自己的大脑，不要给鳗鱼喂汽车电池。

关注公众号“大模型全栈程序员”回复“小程序”获取1000个小程序打包源码。更多免费资源在http://www.gitweixin.com/?p=2627