Træningsdata lider også af algoritmisk skævhed, som kan afsløres, når ChatGPT reagerer på prompter, herunder beskrivelser af personer. I et tilfælde genererede ChatGPT en rap, der indikerer, at kvinder og farvede videnskabsmænd var ringere end hvide og mandlige videnskabsmænd.<ref>{{Cite magazine |last=Perrigo |first=Billy |date= 5. december 2022 |title=AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits |url=https://time.com/6238781/chatbot-chatgpt-ai-interview/ |access-date=26. december 2022 |magazine=Time (magazine) |archive-date=18. januar 2023 |archive-url=https://web.archive.org/web/20230118162611/https://time.com/6238781/chatbot-chatgpt-ai-interview/ |url-status=live}}</ref><ref>{{Cite web |last=Biddle |first=Sam |date=8. december 2022 |title=The Internet's New Favorite AI Proposes Torturing Iranians and Surveilling Mosques |url=https://theintercept.com/2022/12/08/openai-chatgpt-ai-bias-ethics/ |access-date=26. december 2022 |website=The Intercept |archive-date=18. januar 2023 |archive-url=https://web.archive.org/web/20230118091138/https://theintercept.com/2022/12/08/openai-chatgpt-ai-bias-ethics/ |url-status=live}}</ref>
Filosofi