What are some of the top risks around LLMs?
1. Hallucinations: LLMs sometimes make up facts and responses which are false.
2. Toxicity and bias: LLMs reflect the data they were trained on, so they may generate responses with toxic or biased content.
3. Job losses: More generally, many people worry that LLMs and AI will displace humans in some jobs, though similar historical breakthroughs indicate that jobs will likely change but not be lost overall.
4. Malicious AI: As LLMs and AI approach Artifical General Intelligence (AGI), some people fear that an AGI may become a threat to some or all humans.
5. Environmental impact: LLMs and big AI models require lots of energy to train, and therefore have big carbon footprints.
Quais são alguns dos principais riscos em torno de LLM?
1. Alucinações: os LLM às vezes inventam fatos e respostas que são falsas. 2. Toxicidade e viés: os LLM refletem os dados em que foram treinados, de modo que podem gerar respostas com conteúdo tóxico ou tendencioso. 3. Perdas de empregos: Mais em geral, muitas pessoas se preocupam que os LLM e a IA desloquem os seres humanos em alguns empregos, embora avanços históricos semelhantes indiquem que os empregos provavelmente mudarão, mas não serão perdidos em geral. 4. IA maliciosa: à medida que os LLM e a IA se aproximam da Inteligência Geral Artificial (AGI), algumas pessoas temem que um AGI possa se tornar uma ameaça para alguns ou todos os seres humanos. 5. Impacto ambiental: os LLM e os grandes modelos de IA exigem muita energia para treinar e, portanto, têm grandes pegadas de carbono.