IA
Responsável

A Blend está comprometida com o uso responsável da Inteligência Artificial em toda a nossa organização. Reconhecemos seu notável poder para impulsionar vantagens competitivas e melhorar a produtividade, ao mesmo tempo em que reconhecemos as significativas implicações éticas e sociais que ela apresenta.
‍
Nossos clientes confiam em nós para gerir nossos negócios com uma base ética sólida em todos os aspectos, e a IA não é exceção. Seguimos os mais altos padrões de transparência, justiça, privacidade, responsabilidade e benefício social e econômico.

Princípios

A Blend está comprometida em oferecer uma IA baseada em um conjunto sólido de princípios que garantem um uso seguro e eficaz.

Benéfico

Nossos sistemas de IA apoiam os objetivos humanos e mantêm as pessoas no centro da experiência

Considere fatores econômicos e éticos para beneficiar as pessoas e a sociedade como um todo

Maximizar os seus benefícios, ao mesmo tempo que se abordam quaisquer potenciais danos

Mitigar potenciais impactos negativos, tais como a perda de postos de trabalho ou a amplificação de preconceitos e outros conteúdos prejudiciais

Transparente

A transparência ajuda as nossas partes interessadas a tomar decisões informadas sobre a utilização dos nossos sistemas de IA, o que, em última análise, gera confiança e credibilidade

Uma documentação clara e consistente, utilizando cartões de dados e de modelos, proporciona a visibilidade necessária para compreender as utilizações adequadas do sistema

A IA deve operar de forma transparente, com explicações claras sobre como as decisões são tomadas, os algoritmos utilizados e as limitações do sistema

Equitativo

Juntamente com a transparência, a equidade nos sistemas de IA mitiga o potencial de indivíduos ou grupos serem sistematicamente prejudicados

Minimizar preconceitos nos nossos sistemas de IA através de testes rigorosos aos nossos modelos para detetar e corrigir quaisquer enviesamentos não intencionais

Garantir que os dados utilizados para treinar estes modelos sejam completos, precisos e representativos da diversidade da base de utilizadores

Contribuir para a justiça social e não agravar as desigualdades existentes

Privacidade

A Blend respeita a privacidade dos nossos clientes, dos seus utilizadores e das nossas partes interessadas

Cumprimos as melhores práticas e os requisitos legais para anonimizar, encriptar e proteger todos os dados que utilizamos

Nunca utilizaremos os dados fornecidos pelos nossos clientes para qualquer finalidade que não seja a expressamente acordada

Seguro

An asian girl playing with interactivity

O design seguro protege os interesses das organizações ao protegê-las contra o uso indevido

Os princípios de segurança garantem o respeito à privacidade e às pessoas que interagem com nossos sistemas

Proteja tanto o sistema de IA quanto os dados subjacentes

Responsável

Mantemos os humanos no centro para garantir a responsabilidade

Os sistemas implantados oferecem um canal para que grupos ou indivíduos expressem preocupações caso se sintam injustamente impactados por sistemas de IA

Processo

A Blend integra IA responsável ao nosso processo de desenvolvimento para garantir imparcialidade, privacidade, segurança e responsabilidade geral

Planejamento
e design

Considere e documente o uso pretendido
‍

Estabeleça as diretrizes éticas às quais o modelo irá aderir
Defina objetivos pretendidos em torno de princípios como imparcialidade, privacidade, segurança e transparência
Esclareça as limitações/riscos associados ao modelo e aos dados subjacentes, incluindo possíveis vieses, contexto de aplicação e impactos legais/regulatórios

Avaliação e aplicação
de dados

Os dados usados para treinamento devem ser representativos dos usuários que interagirão com o sistema, protegendo contra discriminação e mantendo medidas de privacidade e segurança
‍

Em conformidade com o ambiente regulatório
Garantir que as fontes de dados sejam confiáveis e que os métodos de coleta de dados sejam éticos e respeitem a privacidade, incluindo qualquer consentimento necessário
Avaliar os dados quanto a possíveis vieses e tomar medidas para mitigá-los

Design
de Sistema

Os designs de sistema aproveitarão as melhores práticas em MLOps para garantir que o sistema seja seguro e confiável

Documentar decisões e concessões feitas durante o design do sistema
Garantir que o sistema seja robusto
Existem procedimentos para monitorar e auditar seu uso

Desenvolvimento
de Modelo

Sempre que possível, utilize técnicas (algoritmos, treinamento e validação) que forneçam resultados explicáveis com foco na precisão

Qualitativa e Quantitativa.
Documentar decisões e concessões feitas durante o desenvolvimento e a implantação
Os principais componentes do modelo e os resultados do processo de desenvolvimento serão documentados

Implantação
de Modelo

Os modelos serão implantados em uma estrutura de MLOps adequada
‍

Documentação clara de riscos e limitações
Monitoramento regular para garantir que permaneça justo e imparcial à medida que os dados e as normas sociais evoluem

Comunicando
sobre Modelos e IA

A Blend está comprometida em fornecer documentação clara e transparência para todos os modelos e sistemas de IA, a fim de garantir uma aplicação bem fundamentada. Utilizamos cartões de modelo como um modelo para manter e comunicar informações sobre todos os sistemas de IA que criamos.

Detalhes do modelo
Informações básicas sobre a versão, tipo e outros detalhes do modelo

Pessoa ou organização que desenvolveu o modelo

Data/versão do modelo

Tipo de modelo

Informações sobre algoritmos de treinamento, parâmetros, restrições de imparcialidade ou outras abordagens aplicadas e recursos

Artigo ou outro recurso para mais informações

Detalhes da citação / Licença

Uso pretendido
Permite que os usuários compreendam rapidamente para que o modelo deve ou não ser usado e por que foi criado

Principais usos pretendidos

Fatores
Resumo do desempenho do modelo entre grupos, instrumentação e ambientes

Fatores relevantes: Quais são os fatores importantes previsíveis para os quais o desempenho do modelo pode variar e como eles foram determinados?

Fatores de avaliação: Quais fatores estão sendo relatados e por que foram escolhidos? Se os fatores relevantes e os fatores de avaliação forem diferentes, por quê?

Métricas
Escolhidas para refletir os possíveis impactos do modelo no mundo real

Medidas de desempenho do modelo

Limiares de decisão

Abordagens de variação

Treinamento e Avaliação
Considerações sobre dados no treinamento de IA

Sempre que possível, o treinamento deve espelhar os dados de avaliação

Caso não seja possível fornecer tal nível de detalhe, devem ser incluídas aqui as informações mínimas permitidas, como detalhes sobre a distribuição de vários fatores nos conjuntos de dados de treinamento

Tipo de modelo

Detalhes sobre o(s) conjunto(s) de dados utilizados para as análises quantitativas no cartão. Conjuntos de dados. Motivação. Pré-processamento

Considerações Éticas, Ressalvas e Recomendações
Como o modelo deve (ou não deve) ser utilizado

Preocupações éticas que podem surgir se o modelo não for utilizado corretamente

Indicações de possíveis problemas com imparcialidade ou privacidade

Tipo de modelo

Uso adequado dos dados subjacentes para manter a segurança e a eficácia do modelo

IAResponsável

Princípios

Benéfico

Transparente

Equitativo

Privacidade

Seguro

Responsável

Processo

Planejamentoe design

Avaliação e aplicaçãode dados

Designde Sistema

Desenvolvimentode Modelo

Implantaçãode Modelo

Comunicando sobre Modelos e IA

Detalhes do modelo Informações básicas sobre a versão, tipo e outros detalhes do modelo

Uso pretendido Permite que os usuários compreendam rapidamente para que o modelo deve ou não ser usado e por que foi criado

Fatores Resumo do desempenho do modelo entre grupos, instrumentação e ambientes

Métricas Escolhidas para refletir os possíveis impactos do modelo no mundo real

Treinamento e Avaliação Considerações sobre dados no treinamento de IA

Considerações Éticas, Ressalvas e RecomendaçõesComo o modelo deve (ou não deve) ser utilizado

IA
Responsável

Planejamento
e design

Avaliação e aplicação
de dados

Design
de Sistema

Desenvolvimento
de Modelo

Implantação
de Modelo

Comunicando
sobre Modelos e IA

Detalhes do modelo
Informações básicas sobre a versão, tipo e outros detalhes do modelo

Uso pretendido
Permite que os usuários compreendam rapidamente para que o modelo deve ou não ser usado e por que foi criado

Fatores
Resumo do desempenho do modelo entre grupos, instrumentação e ambientes

Métricas
Escolhidas para refletir os possíveis impactos do modelo no mundo real

Treinamento e Avaliação
Considerações sobre dados no treinamento de IA

Considerações Éticas, Ressalvas e Recomendações
Como o modelo deve (ou não deve) ser utilizado