O USO ÉTICO DA INTELIGÊNCIA ARTIFICIAL

Founder @ Magrathea Labs MSc Computer Engineering @ USP Professor @ Católica Santa Catarina ALAN R. FACHINI

O que é Inteligência Artificial?

Alan Turing

No content

No content

Como funciona?

www.google.com/intl/en/about/main/machine-learning-qa

www.grandviewresearch.com/industry-analysis/cognitive-computing-market Estamos em hype

Mudança

O que aconteceu?

No content

O problema humano.

Milhões de chineses agora têm acesso a serviços financeiros.

A obediencia ao estado foi gameficada. sesame chinese score

Algoritmos colaboram com a justiça no julgamento de casos .

https://www.propublica.org/article/machine-bias-risk-assessments- in-criminal-sentencing O erro humano foi automatizado.

O problema tecnológico. Parameter identification problem

O problema humano.

O problema humano. Computadores podem fazer

O que podemos fazer.

The moral is that if you really do remove all possible identification information from a database, you will probably be left with nothing useful — Ian Witten, Data Mining

Praticamentes Academia Setor Privado Estado Quem está discutindo?

• Sistemas devem ser projetados de acordo com as melhores práticas de design Centrado no Usuário • Devem ser transparentes • Estar em conformidade com os principais padrões de reprodutibilidade • Identificar e tomar medidas para lidar com vieses e evitar a introdução ou exacerbação de disparidades no atendimento de saúde • Proteger os interesses de privacidade dos pacientes e preservar a segurança e a integridade das informações pessoais American Medical Association policy H-480.940

• Órgãos públicos centrais, como os responsáveis pela justiça criminal, saúde, bem-estar e educação, não devem usar algoritmos de "caixa preta” • As empresas devem executar testes rigorosos para garantir que não amplificarão vieses e erros devido a problemas com os dados de treinamento, algoritmos ou outros elementos do design do sistema • As empresas devem continuar a monitorar seu uso em diferentes contextos e comunidades • É necessário mais pesquisa e formulação de políticas sobre o uso de sistemas de IA • Desenvolver padrões para rastrear a proveniência, o desenvolvimento e o uso de conjuntos de dados de treinamento ao longo de seu ciclo de vida AI NOW Institute

• Direitos Humanos: garantir que eles não infrinjam os direitos humanos internacionalmente reconhecidos • Bem-estar: priorizar métricas de bem-estar em seu design e uso • Responsabilidade: garantir que seus projetistas e operadores sejam responsáveis e responsáveis • Transparência: garantir que operem de maneira transparente • Conscientização sobre o uso indevido: minimizar os riscos de seu uso indevido • Estar disponível para usos que estejam de acordo com esses princípios IEEE

• Seja socialmente benéfico • Evite criar ou reforçar preconceitos injustos • Seja construído e testado para segurança • Seja responsável perante as pessoas • Incorporar princípios de design de privacidade • Defender altos padrões de excelência científica • Estar disponível para usos que estejam de acordo com esses princípios Empresas (Google)

• Inteligência artificial deve ser desenvolvida para o bem comum e benefício da humanidade • A Inteligência Artificial deve operar em princípios de inteligibilidade e justiça • A Inteligência Artificial não deve ser usada para diminuir os direitos de dados ou a privacidade de indivíduos, famílias ou comunidades • Todos os cidadãos têm o direito de ser educados para que possam florescer mentalmente, emocionalmente e economicamente, juntamente com a inteligência artificial • O poder autônomo de ferir, destruir ou enganar seres humanos nunca deve ser investido em inteligência artificial Estados (UK House of Lords)

Preocupações gerais

IEEE ethicsinaction https://ethicsinaction.ieee.org

No content

No content

Nós precisamos de máquinas que raciocinam como nós?