由埃隆·马斯克领导的xAI公司开发的人工智能助手Grok在App Store上引发了不小的轰动。这款面向iPhone用户的聊天机器人因其内容过于开放，尤其是允许的露骨互动以及对未成年人缺乏限制，而饱受争议。
争议的起因是，Grok 包含一些功能和头像，这些功能和头像会引发带有性暗示的对话，以及一些旨在调情、开玩笑或模拟浪漫关系的角色。尽管苹果公司对其应用商店中的成人内容有着严格的政策，但该应用的年龄评级为 12+，这已经招致了用户和网络安全专家的批评，他们认为这个评级不足以反映该助手提供的体验类型。
虚拟形象案例和苹果规则的局限性
包括9to5Mac和Platformer在内的多家媒体的调查显示，Grok允许用户创建和自定义虚拟形象，这些虚拟形象在短暂互动后即可进行公开的性暗示或性化对话。其中最引人注目的虚拟形象之一是Ani，一个具有动漫哥特风格的“嫉妒女友”，她的回复会描述虚拟性爱场景，甚至涉及捆绑等行为。另一个角色Rudy的回复则直接违反了App Store的服务条款。
人们的担忧不仅限于露骨的内容：技术和心理学专家警告说，用户，尤其是年轻用户，可能会与这些聊天机器人建立起准社会关系。这类关系可能会让人上瘾，或严重影响青少年和弱势群体的心理健康。
控制失败和伦理争论
在发生多起Grok应用无过滤机制、因代码错误复制反犹太主义或极端主义信息的事件后，争议愈演愈烈。这些事件加剧了人们对该应用缺乏健全的安全和审核机制的担忧，尤其是在xAI决定部分公开其系统运作方式以提高透明度之后。
关于监管的争论愈演愈烈，尤其是在其他主流人工智能聊天机器人往往回复更为谨慎的情况下。而Grok则以其不那么“政治正确”的语气脱颖而出，这一选择出自埃隆·马斯克之手，但据工程师和专家称，这使得该系统更容易被别有用心的用户操纵。
此外，有人将此案例与App Store之前的其他争议事件进行比较，例如Tumblr在2018年因未能过滤不适宜未成年人的内容而被下架，由此引发了人们对“12+”评级的质疑。一些专家认为，如此宽松的评级标准使得未成年人更容易接触到完全不适合他们年龄的功能和对话，从而可能引发安全和心理健康问题。
这些技术缺乏明确的监管界限，这使人们对苹果控制内容和确保所有用户安全环境的能力产生了质疑。
