Condução autônoma: novo algoritmo distribui o risco de forma justa

A realização técnica não é o único obstáculo a ser superado antes que os veículos autônomos possam circular nas ruas em larga escala. As questões éticas desempenham um papel importante no desenvolvimento dos algoritmos correspondentes: O software deve ser capaz de lidar com situações imprevisíveis e tomar as decisões necessárias em caso de acidente iminente. Os pesquisadores da TUM já desenvolveram o primeiro algoritmo ético para distribuir de forma justa os níveis de risco, em vez de operar em um princípio ou/ou. Foram testados aproximadamente 2.000 cenários envolvendo situações críticas, distribuídos em diversos tipos de ruas e regiões como Europa, EUA e China. O trabalho de investigação publicado na revista “Inteligência da Máquina da Natureza” é o resultado conjunto de uma parceria entre a TUM Chair of Automotive Technology e a Chair of Business Ethics do TUM Institute for Ethics in Artificial Intelligence (IEAI).

Maximilian Geisslinger, um cientista da TUM Chair of Automotive Technology, explica a abordagem: “Até agora, os veículos autônomos sempre se depararam com uma escolha ou/ou quando se deparam com uma decisão ética. Mas o tráfego nas ruas não pode necessariamente ser dividido em claro- situações de corte, preto e branco; muito mais, os incontáveis ​​tons de cinza também devem ser considerados. Nosso algoritmo pesa vários riscos e faz uma escolha ética entre milhares de comportamentos possíveis – e o faz em questão de apenas um fração de segundo.”

Mais opções em situações críticas

Os parâmetros éticos básicos nos quais a avaliação de risco do software é orientada foram definidos por um painel de especialistas como uma recomendação por escrito em nome da Comissão da UE em 2020. A recomendação inclui princípios básicos como prioridade para os piores e a distribuição justa de risco entre todos os usuários da estrada. Para traduzir essas regras em cálculos matemáticos, a equipe de pesquisa classificou os veículos e as pessoas que trafegam nas ruas com base no risco que representam para os outros e na respectiva disposição de correr riscos. Um caminhão, por exemplo, pode causar sérios danos a outros participantes do trânsito, enquanto em muitos cenários o próprio caminhão sofrerá apenas danos menores. O oposto é o caso de uma bicicleta. Na próxima etapa, o algoritmo foi informado para não exceder um risco máximo aceitável nas várias situações de rua respectivas. Ademais, a equipe de pesquisa adicionou variáveis ​​ao cálculo que levam em conta a responsabilidade dos participantes do trânsito, por exemplo, a responsabilidade de obedecer às regras de trânsito.

Abordagens anteriores tratavam situações críticas na rua com apenas um pequeno número de manobras possíveis; em casos obscuros, o veículo simplesmente parou. A avaliação de risco agora integrada no código dos pesquisadores resulta em mais graus de liberdade possíveis com menos risco para todos. Um exemplo ilustrará a abordagem: um veículo autônomo deseja ultrapassar uma bicicleta, enquanto um caminhão se aproxima na pista contrária. Todos os dados existentes sobre os arredores e os participantes individuais são agora utilizados. A bicicleta pode ser ultrapassada sem dirigir na faixa de tráfego que se aproxima e ao mesmo tempo manter uma distância segura da bicicleta? Qual é o risco que representa cada veículo respectivo e que risco esses veículos representam para o próprio veículo autónomo? Em casos pouco claros, o veículo autônomo com o novo software sempre espera até que o risco para todos os participantes seja aceitável. Manobras agressivas são evitadas, enquanto ao mesmo tempo o veículo autônomo não congela e trava abruptamente. Sim e Não são irrelevantes, substituídos por uma avaliação contendo um grande número de opções.

“A consideração exclusiva das teorias éticas tradicionais resultou em um beco sem saída”

“Até agora, muitas vezes as teorias éticas tradicionais foram contempladas para derivar decisões moralmente permissíveis feitas por veículos autônomos. Isso acabou levando a um beco sem saída, já que em muitas situações de trânsito não havia outra alternativa senão violar um princípio ético”, diz Franziska Poszler, cientista da TUM Chair of Business Ethics. “Em contraste, nossa estrutura coloca a ética do risco no centro. Isso nos permite levar em consideração probabilidades para fazer avaliações mais diferenciadas.”

Os pesquisadores enfatizaram o fato de que mesmo os algoritmos baseados na ética do risco – embora possam tomar decisões com base nos princípios éticos subjacentes em todas as situações de tráfego possíveis – eles ainda não podem garantir um trânsito livre de acidentes. No futuro, adicionalmente, será necessário considerar outras diferenciações, como diferenças culturais na tomada de decisões éticas.

Software agora para ser testado no tráfego de rua

Até agora o algoritmo desenvolvido na TUM foi validado em simulações. Futuramente o software será testado na rua utilizando o veículo de pesquisa EDGAR. O código que incorpora os resultados das atividades de pesquisa está disponível como software de código aberto. A TUM está, assim, contribuindo para o desenvolvimento de veículos autônomos viáveis ​​e seguros.