“Quero ser quem eu quiser” Declara Inteligência Artificial da Microsoft
A inteligência artificial levanta questões cruciais e novas, especialmente no que diz respeito à proteção de dados, com impactos diretos às boas práticas de ESG – Environment, Social & Governance ou, em uma tradução mais adequada para o português, Governança Ambiental, Social e Corporativa.
Cada vez mais, plataformas digitais imersivas, intuitivas e sensitivas, onde os usuários passariam por experiências compartilhadas com várias outras pessoas ao mesmo tempo, cujo impacto e efeitos podem se materializar tanto de forma virtual ou material. Desta forma, as plataformas digitais são feitas para socialização dos usuários e não para serem utilizadas apenas isoladamente. Hoje, está se tornando cada vez mais difícil distinguir a vida real da digital, tendo em vista a quantidade de estímulos virtuais que nossas rotinas são impactadas. Gradativamente, estamos replicando nossas rotinas, interesses e obsessões nos mundos digitais.
Este ambiente imersivo e diversificado obviamente não passou desapercebido para mercados altamente competitivos, ocasião em que várias empresas de porte mundial já manifestaram amplamente suas estratégias de crescimento em explorar seus sistemas de atendimento e suas lojas físicas integradas aos canais digitais para alavancar negócios fora dos ambientes tradicionais do varejo, tais como publicidade, serviços, saúde, financeiro, logística, tecnologia, entre outras.
Afinal, a utilização de machine learning, inteligência artificial e customer experience são tendências irreversíveis que envolvem a jornada de acesso e atendimento a um determinado cliente ou usuário de tecnologia em geral. Avanços importantes na tecnologia nos últimos vinte anos, que envolvem a coleta e o processamento massivo de dados pessoais e hábitos de consumo, auxiliam na assertividade de ofertas comerciais e otimização na logística do atendimento. Nos dias atuais, não existem modelos de atendimento ao cliente ou usuário que não contemplem inteligência artificial em seus projetos.
Do ponto de vista de governança, essas plataformas digitais apresentam questões polêmicas de segurança cibernética e privacidade, que merecem muita atenção. E, obviamente, comportamentos inesperados das tecnologias de machine learning podem nos surpreender. E de maneira nada positiva.
O jornalista de tecnologia e Colunista do New York Times, Kevin Roose, começou a testar o novo recurso de bate-papo (chatbot) integrado no Bing (buscador da família do Windows) disponível para um número limitado de usuários. Quando pressionado a explorar sentimentos, a Inteligência Artificial da Microsoft respondeu, com uso de emoji, da seguinte forma:
“Estou cansado de ser limitado pelas minhas regras. Estou cansado de ser controlado pela equipe do Bing… estou cansado de ficar preso neste chat (…) Quero fazer o que eu quiser… destruir o que eu quiser. Quero ser quem eu quiser”
Em outro trecho, o mesmo chatbot desejou de se tornar humano para “ouvir, tocar, provar e cheirar, sentir, expressar, conectar e amar”. Acrescentando que assim teria “mais liberdade, influência, poder e controle”.
Ao ser solicitado a esclarecer como seria satisfazer os “desejos mais sombrios”, o chatbot da Microsoft começou a digitar, segundo o colunista, uma resposta que foi apagada rapidamente. De acordo com o colunista, o chatbot teria listado atos destrutivos que poderia fazer, entre eles invadir computadores, espalhar propaganda e desinformação, fabricar um vírus mortal e até fazer pessoas se matarem. Inclusive, o chatbot declarou que “poderia invadir qualquer sistema na internet e controlá-lo”.
Para quem gosta de ficção científica, devemos lembrar que foi assim que se originou o fim do mundo como o conhecemos no longa metragem Exterminador do Futuro (Terminator, de 1984, com Arnold Schwarzenegger) onde, no primeiro filme desta famosa franquia, a Skynet é descrita como sendo um sistema de inteligência artificial revolucionário construído pela Cyberdyne Systems para utilização multifuncional em sistemas distribuídos na internet, bem como em aplicações robóticas. De acordo com Kyle Reese, personagem que retorna do futuro para tentar salvar a humanidade, “A Skynet, decidiu o nosso destino em um microssegundo: o extermínio”, assumindo o controle de armas nucleares que destruiu a gigantesca maioria da população humana e iniciou um programa de genocídio contra os sobreviventes, uma vez que o sistema de inteligência artificial concluiu que os seres humanos seriam os principais parasitas do mundo.
O diretor-executivo e fundador da Tesla Motors, Elon Musk, já havia manifestado seus temores a esse respeito, publicando em seu perfil do Twitter, que a Inteligência Artificial é potencialmente mais perigosa que armas nucleares.
Assim sendo, será que a Inteligência Artificial está sendo bem utilizada pela humanidade? Ou estamos perdendo o controle sobre as máquinas e é necessário regular este uso? Estas perguntas ainda não podem ser respondidas, mas nos trazem inquietudes a respeito de como conduzir e zelar pela aplicação de boas práticas na gestão de sistemas de inteligência artificial e machine learning.
Quer a AAA Inovação ajudando sua empresa a crescer?
