英伟达推出“护栏”软件管理AI系统,以防聊天机器人“信口开河”

【英伟达推出“护栏”软件管理AI系统,以防聊天机器人“信口开河”】 英伟达25日推出一款软件,用于管理基于大型语言模型的AI系统,也就是ChatGPT等机器人所使用的学习技术。据报道,这个名为NeMo Guardrails的工具可确保聊天机器人不偏离话题,减少它们提供限制性信息的可能。英伟达表示,该工具还将防止机器人做出错误猜测或采取超出权限的行动。

上一篇:

下一篇: