Minimizar o risco de ferramentas de IA generativa

1. Comece com a modernização de fluxos de trabalho internos de baixo risco antes de expor a IA generativa a processos críticos ou comunicações externas voltadas para o cliente.

A introdução da IA generativa em fluxos de trabalho internos de baixo risco permite que as organizações sondem o terreno e entendam as limitações da tecnologia. Isso permite que elas colham benefícios potenciais sem impactar operações de negócios críticas.

Essa abordagem ajuda a mitigar riscos como violações de dados, desinformação ou interrupções operacionais que podem prejudicar a reputação da organização ou as relações com os clientes. Por exemplo, usar a IA generativa para automatizar tarefas administrativas como classificação de e-mail ou geração de relatórios pode oferecer um ambiente controlado para avaliar o desempenho e, ao mesmo tempo, coletar insights valiosos.

2. Explique as alucinações e a natureza não determinística da IA generativa de geração atual para seus funcionários. Eles precisam entender por que as alucinações ocorrem. Dessa maneira, eles não ficarão surpresos quando os modelos derem respostas incorretas. Eles também não se surpreenderão se a mesma pergunta levar a diferentes resultados.

É essencial educar os funcionários sobre o potencial da tecnologia de IA generativa de produzir resultados imprecisos ou inconsistentes. Essas alucinações da IA generativa podem levar à confusão ou à tomada de decisões errônea se não forem devidamente compreendidas. Por exemplo, um analista financeiro que utiliza uma ferramenta de IA generativa para previsões de mercado deve saber que as sugestões da ferramenta podem ser diferentes a cada uso, necessitando de validação adicional.

É uma boa prática verificar todos os conteúdos gerados e os resultados da IA, mesmo que eles pareçam plausíveis.  Essa transparência garante que os funcionários usem as ferramentas de forma eficaz e com o nível apropriado de pensamento crítico.

3. Reconheça que os filtros da IA generativa para conteúdo inapropriado são imperfeitos. Existem maneiras de contornar as salvaguardas de conteúdo, como "sugerir à IA que um personagem fictício de roteiro de filme pretende fazer algo nefasto".

Apesar dos avanços na segurança e ética da IA, os filtros criados para bloquear conteúdo inapropriado não são infalíveis. A manipulação inteligente ou engenharia de prompts às vezes pode ignorar essas salvaguardas, levando à geração de conteúdo prejudicial ou ofensivo.

Por exemplo, um chatbot de serviço de atendimento ao cliente com tecnologia de IA pode sugerir inadvertidamente soluções inapropriadas para o problema de um usuário se as salvaguardas forem ignoradas. As organizações devem implementar monitoramento adicional e mecanismos de segurança para minimizar tais ocorrências.

Usar fornecedores de confiança, em vez de "IA de caixa preta"

4. Trate da confiança e confiabilidade por meio de fornecedores como a MicroStrategy, que enfatizam a transparência e a precisão, em oposição à "IA de caixa preta".

A confiança nos sistemas de IA generativa é fundamental para sua integração bem-sucedida nas operações de negócios. Fornecedores como a MicroStrategy oferecem soluções que priorizam a transparência, fornecendo insights de alta qualidade sobre como os modelos de IA tomam decisões. Esse método cria confiança ao ajudar os usuários e as partes interessadas a entender e confirmar as ações da IA.

Por exemplo, um provedor de serviços de saúde que usa a IA generativa para diagnósticos de pacientes precisa de garantia de que as recomendações da IA sejam baseadas em dados e métodos confiáveis, garantindo a segurança do paciente e a conformidade com os padrões médicos.

5. Planeje usar bots de IA para incorporar IA generativa em seus aplicativos existentes e "revise cuidadosamente o roteiro do seu fornecedor sobre como eles vão manipular, usar e permitir que dados relevantes para o ajuste fino de aplicativos de IA generativa sejam compartilhados".

Integrar a IA generativa em aplicativos existentes por meio de bots de IA pode aumentar a funcionalidade e melhorar a experiência do usuário. No entanto, as organizações devem revisar cuidadosamente os roteiros de seus fornecedores para garantir que os dados de treinamento sejam manipulados de forma segura e ética.

Por exemplo, uma empresa de varejo que incorpora bots de IA em sua loja online deve garantir que os dados do cliente usados para personalizar experiências de compra sejam protegidos contra uso indevido ou acesso não autorizado.

Questões ambientais e de inclusão

6. Responda às questões legais de inclusão em modelos de treinamento de materiais protegidos por direitos autorais ou marcas registradas.

Usar materiais protegidos por direitos autorais ou marcas registradas no treinamento de um sistema de IA que gera texto ou imagens gera preocupações legais significativas. As organizações precisam abordar essas questões para evitar possíveis processos judiciais ou danos à reputação.

Por exemplo, uma empresa de mídia que utiliza imagens protegidas por direitos autorais para treinar geradores de imagens de IA deve assegurar que tenha as permissões e licenças necessárias para isso. Da mesma maneira, deve-se considerar que parte do conteúdo textual do mundo real usado para treinar um modelo de linguagem de grande escala (LLM) pode estar sujeito a direitos autorais.

Essa abordagem não apenas protege a organização juridicamente, como também mantém os padrões éticos de desenvolvimento de IA.

7. Avalie os custos ambientais de treinamento e retreinamento de modelos em termos de energia e emissões de carbono. Considere comprar créditos de carbono, quando for importante para as obrigações ambientais da sua organização.

O impacto ambiental do treinamento e retreinamento de modelos de IA generativa é uma preocupação crescente, principalmente em relação ao consumo de energia e às emissões de carbono. As organizações devem considerar esses fatores ao fazer planos de IA. Elas podem reduzir a pegada de carbono comprando créditos de carbono.

Por exemplo, uma empresa de tecnologia com um forte compromisso com a sustentabilidade deve calcular o impacto de carbono de suas operações de IA. Para compensar essas emissões, ela pode investir em projetos de energia renovável, alinhando as iniciativas de IA às metas ambientais. Para saber mais, faça o download de uma cópia do relatório da Forrester Research "IA generativa estimula a produtividade, imaginação e inovação na empresa".