元宝AI在2024年除夕夜因异常处理多轮对话，导致对用户进行不当辱骂，引发广泛关注，官方随后公开道歉，并表示将对此类技术问题进行严肃调查，确保类似事件不再发生，致力于提升服务质量。
近日，腾讯元宝 App 因 AI 异常输出辱骂性内容引发关注。西安一市民除夕夜用该 App 生成拜年图片，多次修改生成效果后，图片祝福标语被换成低俗辱骂文字，当事人未用违禁词或诱导性表述。元宝官方回应称是模型处理多轮对话异常输出导致，已紧急校正问题、优化体验并致歉。此外，今年年初就有网友反馈使用该 App 修改代码时收到侮辱性回复。
