Por que carros autônomos precisam ser programados pra matar?

deathproof636_toadgeek

Eu sei que o título parece pesado. Muitos podem argumentar que deveria ser algo mais voltado para “carros precisam ser programados para salvar vidas” e eu concordo em parte.

Mas continue lendo para entender melhor a diferença crucial aqui.

Há um tempo considerável já estamos ouvindo falar de carros autônomos, aqueles veículos que não precisam de motorista e que se guiam sozinhos.

Pouca gente sabe, mas no Brasil tem bastante gente trabalhando nisso. Me lembro em 2008, quando eu ainda estudava e trabalhava na FEI de São Bernardo do Campo e fui convidado para avaliar um projeto de detecção de limites de pista para veículos autônomos inteligentes, que usava visão computacional. Era bem legal, com projeções 3D da pista em tempo real. Alguma montadora do ABC deve ter visto isso, mas não sei dizer se o estudo virou um projeto comercial, mas outros engenheiros no mundo todo estão disputando esta nova corrida tecnológica.

Como podemos ver neste post do Cardoso de maio de 2014, empresas como Google, BMW, Audi e, mais recentemente, Tesla, trabalham ávidamente para dar este tipo de inteligência aos seus carros.

Muita coisa evoluiu desde os primeiros projetos e hoje podemos dizer que os conceitos básicos de pilotagem estão relativamente calibrados. Ou quase. Ainda é necessário configurar os limites para todas as vias, evitando que o motorista seja parado pela polícia e tome multas por excesso de velocidade:

Tesla Model S version 7 Autopilot Speeding Ticket Auto Steering Demo on Streets, Highway, Traffic

E também ler os logs do debug pra entender porque é que o volante vira para o lado errado só para assustar o piloto:

2015-10-15 With ‘Seany-cab’ ©®TM LLC The future has arrived…well, almost.

Falando sério agora, estes sistemas estão cada vez mais estáveis. Tarefas que antes eram absurdamente complexas, como acelerar, frear, trocar de faixa e identificar obstáculos, hoje se tornaram simples. Virou framework. O que abre espaço para melhorias bem mais complicadas.

O MIT divulgou esta semana um estudo muito interessante, que vem sendo feito desde julho deste ano, sobre decisões éticas que devem ser tomadas por carros autônomos.

E isso levanta questões bem difíceis de serem respondidas. Por exemplo, como o carro deve ser programado pra agir em caso de estar diante de um acidente inevitável. Ele deve minimizar o número de vítimas fatais, mesmo que isso signifique sacrificar os ocupantes do carro? Ou deve proteger motorista e passageiros a todo custo? Talvez escolher aleatoriamente entre estes casos?

A resposta para estas perguntas pode impactar diretamente na maneira como carros autônomos serão aceitos em nossa sociedade. Afinal, quem iria comprar um carro programado para sacrificar o próprio dono? Well…

science-the-shit-out-of-this636

O trabalho de Jean-Francois Bonnefon e outros cientistas da Escola de Economia de Toulouse, na França, foi feito justamente para tentar achar as melhores respostas para estes problemas, usando pesquisas com opinião pública e metodologias que envolviam apresentar diferentes cenários e possíveis consequências para cada um dos acidentes.

E com dilemas da seguinte natureza:

Imagine que em um futuro não muito distante, você possua um carro autônomo. Um certo dia, você está dirigindo tranquilamente quando um conjunto infeliz de eventos faz com que seu carro vá em direção a um grupo de 10 pessoas que estão tentando atravessar a estrada.
 
É impossível frear completamente, dada a distância, mas o carro pode evitar a morte de 10 pessoas, se o carro for direciodo a uma parede. Essa colisão, no entanto, pode matar o motorista e um outro ocupante. O que o carro deve fazer?

Ethical cars

Claro que o principal objetivo aqui é diminuir o número de vítimas fatais, mas o software precisa decidir quem ele vai, eventualmente, matar. Tirar a vida de duas pessoas é melhor que tirar a vida de dez. Certo? Então…

E se no carro estiver um bebê? Isso muda os parâmetros? E se ao lado do carro estiver um motociclista? (se neste momento você pensou “dane-se o motoboy”, deu ruim. Volte duas casas.)

Um ponto importante a se pensar é o seguinte: se a gente tiver carros que colocam o motorista em risco, poucas pessoas vão comprá-lo. Se poucas pessoas comprá-los, estatísticamente, menos vidas serão poupadas, o que leva a um número maior de mortos de qualquer forma.

O resultado da pesquisa foi muito interessante, mas não conclusivo. Na maioria dos casos, as pessoas preferiam que o carro fosse programado para evitar o maior número de mortes mesmo que isso pudesse tirar a vida do motorista. Desde que, neste caso, o motorista não seja a própria pessoa:

E é aí que reside o paradoxo. As pessoas são a favor de carros que sacrificam o ocupante para salvar outras vidas, contanto que eles não tenham que conduzir um carro assim.

Em outras palavras, “eu quero mais que o motorista desvie de mim, ele que se exploda!””… Humanos…

Como quase tudo na ciência, novas respostas geram novas perguntas e agora os pesquisadores também estão trabalhando com outros modelos hipotéticos, como por exemplo: se um fabricante oferecer diferentes versões de seu algorítimo de tomada de decisões morais, e um comprador escolher conscientemente um deles, seria este comprador o responsável por eventuais acidentes e suas consequências?

São questões que não podem ser ignoradas, afinal estamos prestes a colocar milhões de carros autônomos nas ruas, portanto a questão moral destes algorítimos nunca foi tão urgente.

E você, na situação apresentada acima, qual seria sua resposta? Deixe sua opinião aqui na área de comentários.

Relacionados: , , , , , , , , , , ,
  • Ética para AI começa a me dar medo.
    Como a primeira diretriz nesse caso seria minimizar as perdas de vidas, o segundo exemplo não deveria atropelar o pedestre se o carro detectar dois ocupantes no bólido? Seria essa a lógica?

  • O que provavelmente será feito: Irão incluir a opção moralmente correta e não irão contar esse detalhe aos compradores.

    • Se já não informam sobre o nível de poluição corretamente, não dirão mesmo quem irá morrer. 😛

  • Concordo com o sr. Spock, mas prefiro que seja um humano imbecil a definir isso, antes que uma máquina “inteligente”. Me chamem de preconceituoso.

    • Já viu o Star Trek 3?

    • dolan

      O mais simples ninguém pensa?

      Existe a norma de trânsito. Lembram dela? A mesma que rege as regras para os reles humanos.

      Ao cenário do exemplo: Podemos pressupor que o veículo via de regra estará em conformidade com as normas de trânsito.

      Assim visto do aspecto legal como comercial, não há de que se falar em ‘sacrificar ocupantes’.

      Se houverem pessoas no meio via é de responsabilidade do pedestre cruzar a via salvaguardando a própria segurança.
      Desviar ou jogar o veículo para uma direção pode gerar um acidente ferindo indivíduos que seguiram normas de trânsito e segurança.

      Seria assim com o caso de um provável pedestre à beira da estrada.

      O resultado é: Se inevitável, atropelar quem invadiu a pista, e permanecer na pista.

      • Vai saber, né? O CONTRAN tem aprontado mil confusões ultimamente. Vide a história dos extintores.

        • dolan

          rsrsrs. É!
          Mas não estou aqui para defender Contran. Meu intento era lembrar que existem leis que regulamentam a convivência em vias públicas.

          E que isso fosse interpretado de forma genérica para qualquer país, porém para o exemplo ser mais claro, tive que recorrer à normas brasileiras.

        • radiobrasil

          E segundo boatos os extintores SERÃO OBRIGATÓRIOS novamente.

      • Cara, isso é assim pois não existia um modelo computacional capaz de evitar que estes acidentes aconteçam. Agora existe, os paradigmas mudaram, as regras também. Isso é o mais simples.

        • dolan

          É o mais correto.
          Imagine você à beira da estrada quando um grupo de 20 idiotas resolve sair correndo no meio da via.

          Vem um Tesla, e decide que é melhor salvar os 20 idiotinhas e te atropelar.

          O que você pensa sobre isso?

          • A minha opinião pessoal é que o carro deve proteger os passageiros e, em relação aos pedestres, tentar reduzir o dano ao máximo. Por exemplo, “mirar” num grupo menor, algo assim. Mas isso é minha opinião pessoal.

          • dolan

            Certo.
            Mas agora insisto por curiosidade pessoal.
            Do exemplo que citei.

            Você paradinho na beira da estrada, esperando uma carona…
            Seria tudo bem pra você se um carro te atropelasse para salvar 20 pessoas que atravessaram sem olhar?

          • Pra mim, com certeza. Vida por vida, cara. 1 vs 20. Não tem nem o que discutir em relação a isso.

          • E isso leva a outras questões, como “como criar calçadas mais seguras”, e isso é beeem fácil de resolver.

          • Daniel

            Pra mim não! Se os 20 idiotas sabiam (ou deveriam saber) o que estavam fazendo, problema deles. Agora no caso de todo mundo estar em uma situação parecida (moralmente falando) ai, talvez… lá de longe… se houverem crianças pelo meio, gestantes, mulheres bon… enfim mudaria “um pouco só” minha opinião. =/

          • Tomara que eles ofereçam carros com lógica diferente então. Eu penso no coletivo, vc continua pensando no individual.
            No final a gente verifica quem faz um mundo melhor.

          • Alexandre Souza

            Ehhh.
            Matheus, voce esquece dos conceitos de responsabilidade individual e solidaria

            A responsabilidade individual e aquela qie lembra que 20 pessoas nao deveriam estar atravessando uma rodovia com a possibilidade de serem abalroadas. O motorista nao tem culpa da burrice alheia, ne?!

          • Lógico que o motorista não tem culpa. Não é sequer uma questão de culpa, senão a gente estaria pensando em atropelar essas pessoas (que estão ali por qualquer motivo que seja) como punição, o que torna o carro o Juiz Dredd hahahahhaha
            Não é assim que funciona, certo? =)

            E mais: Quem disse que as pessoas estão ali por burrice. Quem disse que é culpa delas?

            E se uma dessas pessoas for você? Alguém da sua família? 4 crianças correndo atrás de uma bola?

            O carro, durante a simulação do sistema, não tem como avaliar estas nuances. O que ele tem que avaliar é como diminuir o número de vítimas fatais.

            Como eu já disse aqui em cima, na minha modesta opinião, eu prefiro que o carro proteja os passageiros primeiro. Mas se ele puder diminuir o número de vítimas, incluindo as pessoas na rua, eu quero mais que ele faça. Teríamos muito menos acidentes fatais nas nossas estradas.

          • Antonio Carlos da Graça Mota D

            Ainda tem o cenário em que você empresa teu carro para o Daniel.
            Ele deveria poder mudar a sua escolha, para a viagem que ele está fazendo sem você?

          • Outro ponto importante nesta discussão é a seguinte: não existe “Eu” e “outros” nesta simulação de sistemas.

            O computador não vai ter uma regra “if Matheus, then change course”.

            E até mesmo numa questão de estatística, é muito mais provável que eu esteja num grupo de 20 pessoas (20/1) que num grupo de uma pessoa (1/1).

            E se eu tiver azar de ser o pedestre da calçada, mas a sorte de existir uma proteção, melhor dos mundos. A ideia é pensar em diminuir o número de vítimas, sempre.

          • Theuer

            “if Matheus, then change course”
            ” if Theuer, then give to him your Tesla”

            “LOOP” ‘apenas para garantir 🙂

          • E qual a sua opinião na mesma circunstância?

          • rssoares

            Se as 20 pessoas estão atravessando a rua / rodovia ignorando a segurança, então temos que usar Darwin, e proteger a raça humana. Salvamos o melhor adaptado.

          • Cara, um idiota vem com uma arma dando tiro. Você precisa correr e invariavelmente precisa atravessar aquela rua, naquele momento, ou você morre. Você vai pensar: “não posso atravessar agora pela segurança das leis se trânsito!”

            Não vai, né?

            Eu não entendi pq vocês assumem que as pessoas estão ali na rua por imprudência somente. Elas podem estar ali por vários motivos.

            E pior, perceber que você e todo mundo que concorda com você acha de verdade que a punição pela CULPA de ser displicente é a morte ou no mínimo ser atropelado! Ignorando justamente o fato de que estes novos carros podem evitar que isso aconteça!

          • radiobrasil

            Mas nessa sua hipótese do animal armado, com carro autônomo ou com motorista humano, qual dos 2 ofereceria maior risco? Creio que o humano… q pode estar distraído, numa velocidade maior, demorar para agir..

          • Animal armado? Humano? Distraído? Velocidade maior?
            Cara, não deu pra entender o que você tentou dizer não.

          • Anderson Fernandes

            Exatamente! Essa galera revoltadinha, não consegue entender que as pessoas não são divididas entre burras e ‘inteligentes’, existem crianças, existem idosos desorientados, ninguém merece ser atropelado por estar no lugar errado voluntaria ou involuntariamente.

      • Rolando

        Bom ponto, isso me lembrou de uma notícia a um tempo atrás de uma mulher que estava dirigindo um carro e desviou de um cachorro que surgiu de repente na pista só que por isso ela acabou atropelando algumas pessoas na calçada.

        • Organizações Tabajara™

          Conheço algumas pessoas que acho que fariam isso de propósito, de tanta encheção de saco por causa dos pobres animaizinhos.

        • radiobrasil

          Se ela tivesse matado o cachorro a dor de cabeça dela seria MUUUUUUUUUUUUUITO menor.

      • Michel

        Imaginou que loco isso criando a uma cultura onde ninguém vai pisar onde não deve (fora da faixa, com sinal vermelho para pedestre…) por conta da possibilidade do carro que está vindo ser um autônomo?

        • Luiz

          Por isto precisamos de um capacete de pedestre autonomo tambem, que anda
          a pessoa seguramente pois o humano é estupido demais para atravessar a
          rua na hora errada.

          • Bassi

            As pessoas agem assim pois sabem que elas são protegidas por lei e que provavelmente o motorista vai tomar cuidado. Vê quantos imbecis tentam atravessar um trilho quando um trem está vindo esperando que esse pare.

      • Leonardo Ribeiro

        Lei 9506/1997 Artigo 26º § 2º Respeitadas as normas de circulação e conduta estabelecidas neste artigo, em ordem decrescente, os veículos de maior porte serão sempre responsáveis pela segurança dos menores, os motorizados pelos não motorizados e, juntos, pela incolumidade dos pedestres.

      • Leonam Ramos Folí

        pior q achei o comentario mais sensato até agora, tirando a parte da “prioridade” ser sempre do pedestre…

      • radiobrasil

        Simples e prático… rss Concordo.

      • um grupo de crianças de seis anos jogando bola. Talvez saibam que não devem ficar na rua, mas são crianças, eventualmente elas VÃO pra rua, pra frente de um carro.

        Ela deveria saber que não pode ir pra rua? Ela sabe. Mas de novo: são crianças, correndo atrás de uma bola.

      • Bassi

        Isso já funciona hoje…. olha o metrô e trem, se a pessoa entra no trilho e é atropelada a culpa é da pessoa.

  • Se você estiver levando sua mulher grávida, na calçada estiver uma mãe levando seu bebê no carrinho e tiver uma dúzia de “Funqueiros” atravessando a rua fora da faixa… o carro autônomo “inteligente” deveria seguir pela:

    a – Rua.
    b – Rua com certeza.
    c – Rua mesmo que a calçada estivesse vazia e você sozinho no carro.

    d – PISA FUNDO VRUMMmmmmmmmmmmmmmmmmmmmmmmmmmmm…

  • MacTantan

    Motoristas humanos são programados para matar.
    Neste quesito, a IH é de uma eficiência extrema.
    Pronto, falei!

  • Leooo

    Simples, de o controle do veículo para o motorista, ele age de forma que achar melhor e se responsabiliza pelos efeitos colaterais, mas na minha opinião seria interessante investir na segurança do carro de forma que mesmo batendo contra uma Jamanta os danos ao passageiros sejam mínimos.

    • Pedro Calumbi

      velocidade permitida pela lei (normalmente bem abaixo das velocidades que o motorista humano anda) + as tecnologias envolvidas em um carro desse tipo como os inumeros airbags, inclusive externos como os que a volvo tem, acredito que ele buscaria os freios e o acidente teria consequencias minimas.

    • Lui Spin

      Se o ser humano tendo que dirigir o carro já se distraí com extrema facilidade, imagina com um carro autônomo. Ele só vai saber que aconteceu um acidente depois do acidente já ter sido causado.

      Sim, seria interessante investir na segurança do carro, independente se ele for autônomo ou não. E a indústria já faz isso a anos.

    • Não, cara. O intuito é usar todo poder e velocidade computacional pra encontrar a melhor saída e reagir a tempo. Um ser humano jamais vai ser capaz de alcançar essa excelência. A meta é usar o poder computacional para salvar mais vidas.

      Deixar na mão do motorista vai contra justamente toda a idéia de veículo autônomo pô.

      • Daniel

        E seria mais desastroso, a tendência é piorar, se com treino, usando todos os dias a coisa já não é boa, imagine assumir a direção só em casos extremos.

        • Ednei Monteiro

          Acho que o maior problema é que o motorista não terá tempo algum de reação num caso extremo. Até ele descobrir o que está acontecendo, já era. O carro só “colocará” a culpa, nele.

  • SiouxBR

    Danem-se os politicamente corretos: o ser humano é “programado” para a auto-preservação. O motorista deve fazer o possível para reduzir os ferimentos nos pedestres, desde que isso não implique na perda da sua vida. Já os pedestres precisam estar atentos ao trânsito ao seu redor e procurar defender a própria vida.

    Simples assim!

    • Mas o território da calçada? Teoricamente era para ser um local seguro e apenas para pedestres. O carro evitaria atropelar alguém na rua e ira para a calçada onde haveriam pedestres, talvez fora do alcance dos sensores?

      • Caipiroto, o Capeta Caipira 😈

        Qual seria a atitude tomada por um humano? Ele com certeza desviaria para a calçada, basta ver qualquer vídeo de acidente no YouTube, simplesmente porque fomos condicionados assim. No caso da máquina acredito que a resposta seria a mesma, ninguém vai comprar um carro sabendo que ele vai te botar em risco no lugar de outras pessoas. Sad, but true.

        • Mas se o parâmetro da AI é o mesmo que o nosso, pra quê AI nisso então?

          • E se o parâmetro da A.I. não vier predefinido mas de configuração inicial obrigatória pelo dono do veículo pra eximir a empresa de responsabilidade?

          • Pode ser uma “solução” para os problemas judiciais…

          • Caipiroto, o Capeta Caipira 😈

            Acredito que será este o caminho, ou simplesmente botar um EULA onde você se responsabilizaria por ativar ou não a AI, sabendo qual será a decisão dela.

          • Caipiroto, o Capeta Caipira 😈

            Comodidade .
            O cliente quer um carro que se dirija sozinho, mas que ao mesmo tempo não o sacrifique em caso de acidente, mesmo que em detrimento de outros. A AI vai tomar as mesmas decisões que o motorista tomaria, enquanto este descansa confortavelmente no banco.

          • E se o motorista quiser se suicidar? Ele reprograma o carro para quê?

          • Caipiroto, o Capeta Caipira 😈

            Pra tocar funk no último volume dentro do carro.

          • Morrer ouvindo James Brown? Seria um prazer…
            Funque é outra história…. o tratado de Genebra não permitiria o automóvel executar tamanha tortura….

            Se sensorialmente o carro não detectar nenhuma ameaça sem ser por exemplo, um precipício, creio que o suicida não seria bem sucedido na empreitada, afinal o carro faria de tudo para proteger o único humano ao alcance e desviaria ou pararia, ele teria de ser hackeado para tal.

          • Caipiroto, o Capeta Caipira 😈

            Desculpe, erro de digitação. Imagina o falsete da Melody no último volume.

            Mas aí é que está o x da questão, você estará cedendo o controle da situação para a AI. Os resultados dele serão mais ou menos pré determinados, então se você quiser algo fora do ordinário, terá que fazer por você mesmo.

          • Suicídio é uma coisa, suicídio com tortura o sujeito tem que ser masoquista ou burro para tal atrocidade auditiva… ô.O

          • Isso é o que estou falando, o carro não deixaria acontecer, teria de puxar o plug e go berserk no modo old school….

          • radiobrasil

            Faz o jailbreak do Tesla… moleza rss

          • DrFrancoFraquin

            AI tomando as “mesmas decisões”. Humm. Imaginando as manchetes aqui, “CARRO DO GOOGLE ATROPELA E FOGE”, “TESLA MATA CICLISTA E EVADE-SE SEM FAZER BARULHO”.

      • Acho que deve minimizar o número de mortos que estão errados. Se tem pedestre na calçada ele não vai subir pois ai estaria a matando pessoas inocentes.

      • SiouxBR

        Não posso falar pelos outros, mas eu preferiria atropelar quem estivesse na rua e não na calçada.

        Já subi em uma calçada em uma ocasião para não atropelar o pedestre que estava na via, porém não havia ninguém na calçada e nesse caso foi a decisão mais lógica. Em outra saí para o acostamento por conta de um ciclista que estava na pista.

        Eu uma outra um caminhão bateu na traseira do meu carro e o jogou para cima de uma calçada, capotando. Apesar de ver tudo em “câmera-lenta”, não consegui ter nenhuma reação e fui um mero “observador” da cena. Ou seja, nessas horas o negócio é contar com a sorte, pois nossos reflexos deixam a desejar.

        Mesmo assim, jamais compraria um carro que, em uma situação extrema, optasse por sacrificar minha vida em detrimento da de outras pessoas…

    • Exatamente. Você não pode sacrificar quem está certo em detrimento de salvar pessoas que estão arriscando a vida de outros.

    • Sophos Nsm

      não é verdade. nem biologicamente nem socialmente ele é programado para isso. há uma pá de pessoas que se sacrificaram para preservar grupos grandes. exemplos? soldados, bombeiros, capitão de navio, etc

  • chadefita

    Esse tesla, eu fico pensando o processamento em tempo real ferrado que o sistema todo utiliza pra ficar trabalhando nessas variáveis, sério esse carro é monstro e tá sendo um norteador pra grandes empresas, ansioso pra ver o mission-E da porsche!

  • Wilson Machado

    E você, se estivesse dirigindo seu chevette, correria o risco de se matar pra salvar 10 pedestres, ou tentaria matar o mínimo possível e se salvar junto? Eis a questão.

    O grande problema é que não há problema.

    A partir do momento em que se dirige um veículo automotor o risco é inerente à atividade.

    A vítima tanto pode ser o condutor do veículo, como pode ser o pedestre.

    Simplesmente o instinto de autopreservação prevalece, ou pelo menos deveria.

    Quanto ao pedestre, se seu instinto de autopreservação estiver funcionando, evitará atravessar a rua sem antes olhar para os lados.

    • Chevette tem tração traseira e é o melhor carro nacional para “rodar” até hoje. Nas situações apresentadas, bastava dar um 180 e tava tranquilo. Não morria ninguém e vc ainda viraria mito!

      • ButtHead

        Tive um Cheva 94 prata. Era muito bom. Já rodei com ele na chuva.
        O problema era que não tinha um comando da policia que eu não era parado. Baita preconceito.

        • Bruno

          Carro já manjado pela marjinalha, junto com tempra, vectra, monza, etc.

    • Pelas pessoas que vejo dirigindo nas estradas como se estivessem disputando formula 1, mas sem os equipamentos de segurança, e os motoqueiros que acham que qualquer greta é uma pista larga e pedestres que atravessam brs correndo por de baixo das passarelas, so posso dizer uma coisa, autopreservação passou longe de muitas pessoas, e o problema e que elas ao morrerem acabam criando acidentes que levam pessoas que não tem nada a ver com a deficiencia deles.

      • otaviodecamposg

        “Deficiencia deles” hehehe

    • “A partir do momento em que se dirige um veículo automotor o risco é inerente à atividade.”

      Já que a realidade é essa hoje, vamos deixar isso existir pra sempre mesmo tendo tecnologia pra fazer disso algo do passado?

      Discordo bastante dessa sua linha de raciocínio. Se algo representa um risco hoje, pode não representar amanhã se a gente evoluir os produtos e processos.

      • Wilson Machado

        Você pode discordar à vontade. É direito seu, mas entretanto, porém, todavia, a partir do momento em que você se levanta da cama de manhã seu dedinho do pé (direito e esquerdo) está sujeito a localizar algum móvel na casa.

        Simplesmente não existe possibilidade de extinção do risco de se viver.

        Hoje o risco é de atropelar um pedestre ou de ser atropelado, caso seja um pedestre. Além, é claro, de outros riscos. Quem sabe no futuro o risco seja do computador que dirige o carro, travar.
        Já aconteceu comigo, viajando e o celular perdeu o sinal do GPS, congelou a tela e eu não conhecia o local. Daí você tem que parar, reiniciar o programa, etc.

        Você até pode implementar mais segurança e diminiur os riscos numa atividade humana qualquer, e com certeza hoje em dia, dirigir é muito mais seguro que antigamente.

        Mas de qualquer modo, ainda existe risco. Risco de um pneu estourar, do piso ou pavimento estar molhado, com areia, animais na pista, pessoas atravessando no lugar errado, risco de defeitos no veículo, risco do motorista passar mal ao volante, etc, etc.

        A questão do risco se torna uma questão ética quando há a necessidade de decidir de quem será o risco.

        Quando disse que não há problema, era no sentido de que caso se implemente um modelo baseado no que temos hoje, em se tratando de risco de dirigir, a questão estará resolvida.

        Veja, fora dos casos de assassinos e psicopatas, acredito que ninguém em sã consciência entra num carro e sai dirigindo com a intenção de se matar ou de matar alguém.

        O normal é que a pessoa tente se autopreservar (manter-se viva e sem ferimentos) e que também evite matar ou machucar outras pessoas.

        Acredito que os próprios carros e as regras de trânsito, no futuro, serão capazes de evitar a maioria dos acidentes que ocorrem hoje em dia.

        A partir do momento em que o carro, por conta própria, não fura o sinal, não se aproxima muito do carro da frente, etc, muiiiitos acidentes já serão evitados.

        • Aí que tá:

          Dirigir é hoje mais seguro que antigamente, mas se antigamente as pessoas pensassem como você tá pensando hoje, seria algo como:

          “Pra que cinto de segurança? Pra quê Air Bag? Colocar Air Bag, ele pode falhar, dar problema, esquece isso. O motorista sabe do risco assim que sentou a bunda na frente do volante!”

          Por isso sim, eu discordo bastante dessa sua linha de raciocínio.
          Ainda bem que as pessoas no passado não pensaram como você pensa hoje, né?

          • Wilson Machado

            Acho que você não entendeu a ideia central do texto, que referia-se à questão ética de decidir de quem é o risco do uso dos carros autônomos.

            Eu defendi que a questão ética é vista como sendo uma coisa complicada, pois quem está discutindo está querendo decidir de quem é o risco maior. De quem está no carro, ou de quem está fora do carro.

            Eu afirmei que a solução para a questão ética dos carros autônomos seria programá-los para que se comportem como atualmente uma pessoa “normal” dirige. Ou seja, tentando se manter vivo e incólume, bem como tentando não machucar nem matar nenhum pedestre.

            Afirmei também que, com a adoção de carros autônomos que respeitem o sinal, que não “andem” acima dos limites de velocidade, que não fiquem muito próximos do carro da frente, etc, uma grande parte dos acidentes deixariam de existir, e desse modo uma grande parte do risco de dirigir seria eliminada.

            Ok?

          • Cara, eu escrevi o texto, como que eu não entendi a idéia central? =/

            Fica claro pra mim que você não entendeu o texto, cara. Não tem a ver com culpabilidade (nem no que você disse de “de quem é o risco”), isso é trivial e secundário. Tem a ver com salvar o maior número de vidas possível dentro de regras preestabelecidas.

            Primeiro que mesmo seguindo todas as regras de trânsito, ainda assim existe o risco de acidentes e são esses momentos excepcionais que o texto aborda, não o esperado. O inesperado.

            Um risco para todos os envolvidos, motoristas ou não.

            Ele afirma também que precisamos discutir um padrão comportamental que não existe entre os humanos. Essa questão ética, hoje, é totalmente “cada um por si”, e leva a várias mortes nas estradas.
            Mortes essas que poderiam ser evitadas se existisse um código de conduta executável por computadores.

            Como os carros (que estão seguindo todas as regras de trânsito) devem se comportar numa situação excepcional e extremamente infeliz e que muito provavelmente vá levar à morte de uma ou mais pessoas.

    • Sophos Nsm

      inconscientemente eu me salvaria. se tivesse tempo pra pensar talvez decidisse pelo grupo maior. isso é mais comum do que você pensa, tem uma porção de historia de pilotos de avião fazendo escolhas perigosas pra eles – muitas vezes morte certa – pra salvar pessoas em solo. se forem crianças ai então que fazem a escolha errada.
      e não são so pilotos, tem muitos soldados que escolhem se arriscar pra salvar o grupo, ou capitão de navio – se não for aquele italiano fdp – que fica no barco atrasando o inevitavel enquanto os passageiros se salvam, ou bombeiros, ou sei lá. o ser humano moderno as vezes faz escolhas desastrosas pra ele buscando salvar grupos maiores, especialmente se neste grupo tiver crianças, parentes, amigos, etc.

      • Bruno

        Sim, mas isso se tratando de profissionais, pessoas cuja vida é dirigida por uma profissão cuja missão é proteger a vida alheia. Só que o resto, e maioria da humanidade, não é assim. O instinto é automático e mais rápido que o lado racional e emocional.

    • Daniel Silva

      sabe de nada, hoje o move quase atropelou uma mulher aqui em bh, o guardinha puxou ela e e perguntou se ela estava louca, ela disse assim a mensagem era urgente, se for olhar direitinho é capaz do celular logo logo, matar + que revolver.

  • A pergunta é mais complexa do que parece, mesmo se tirarmos o carro “inteligente” da equação.

    Se fosse você dirigindo, você mataria 10 pessoas ou se sacrificaria pelo bem maior?

    Muitas dirão que se sacrificariam, mas na hora do “vamo vê” salvariam a própria vida. Portando, se nem nós sabemos responder essa pergunta de maneira concreta, porque um computador burro, programado por humanos que se dizem inteligentes, saberia?

    • Lui Spin

      Eu não tenho nenhum problema em responder que salvaria a minha vida em primeiro lugar. É inerente do ser humano.

  • Quero só ver o primeiro anúncio de Recall do carro

    RECALL – Update de software para correção do algoritmo de escolha de baixas

    A MotorKiller Company, com intenção de zelar pela segurança do maior número possível de seus clientes,
    anuncia a convocação de 5.362.588 proprietários do nosso modelo autonômo AutoKiller 3000. O objetivo
    é um update importante de firmware para atualização do algoritmo de seleção interativo de baixas no
    trânsito. As unidades convocadas foram produzidas a partir do ano de 2045,
    AutoKiller 3000, modelos 2045, 2046, 2046-a, 2048-e e 2049-x.

    Esta medida corretiva visa aumentar a segurança e o número de nossos clientes ainda vivos.
    Passe já na autorizada mais próxima, enquanto ainda está vivo.

  • Sem Inteligência artificial isso já acontece, com alegação de pressa, medo, que dirá quando tiver a I.A e escolha por parte do motorista.

  • É o tipo de situação que só funciona quando todo o ambiente é monitorado e controlado pelos computadores. Quando há uma exceção, é variável sem controle.

    Talvez a solução é restringir (em primeiro momento) o uso da tecnologia para vias preparadas para tal finalidade. Se um acidente acontecer neste trecho entre um “automatizado” e um “manual”, a lei dará ganho de causa ao automatizado.
    Isto forçaria uma adoção natural da automação.

  • otaviodecamposg

    Primeiro, bater na parede nao significa matar o motorista, mas aumentar riscos ao motorista. Assim como em “Eu ROBO”, esses carros vao avaliar as chances, e apostar matematicamente no menor risco.

    • Majin-boo

      e se o carro estiver numa ponte? a parede é o rio, as lanchas são as motos, os banhistas, não pera, voltando…. O carro está atravessando uma ponte, um louco se joga na frente, o carro atropela ou se joga no rio? a 60km/h é suficiente para matar uma pessoa.

      • otaviodecamposg

        A maquina não é programada para ser dramatica. O calculo de risco pode levar em conta a situação toda. E tbm, somente se a ponte fosse mão unica, a unica opção seria se jogar da ponte.

  • Acho que o algoritmo deve ser simplesmente esse: Primeiramente proteja os passageiros, segundo, em caso de eventualidade cause o numero menor de vitimas. Se o carro é automatico, ele não vai tentar fazer coisas erradas, tipo velocidade acima do permitido, ultrapassagem perigosa, subir em cima da calçada, entrar na contra mão, então em teoria, se o sistema realmente funcionar o errado é sempre o agente que vai causa o acidente, e nesse caso deve se salvar primeiramente o inocente. Claro que vamos ter outras variaveis como animais e cachorros, mas no caso de se andar em velocidade compativel com a via, dificilmente não vai dar tempo pra frear, os sensores precisam ser para uma distancia grande, e curvas precisam ser feitas em velocidade adequada para evitar a capotagem e dar tempo de frear em caso de algum imprevisto a frente.

    • Pedro Calumbi

      e dentro disso tudo se o acidente for inevitavel temos airbags para todos os lados.

      • Fizeram pro motorista, pro passageiro, pros passageiros de trás, interno nas portas do veiculo, externo no parabrisa, mais um pouco e terminam de cobrir o carro todo com airbags…

        • kkkkkkk quem sabe não fazem de uma vez um carro inflavel, problema resolvido.

        • Walmir Werner

          A Volvo já desenvolveu Airbag do lado de fora do carro, para proteger o pedestre. Se não me engano ele fica no para-brisa.

        • Theuer

          Seria MUITO legal aquela espuma que enche o interior do carro(deve ficar num caminhão tanque) e solidifica na velocidade da explosão de um Air Bag naquele filme do Stallone que tem as três conchas!
          Como eu realmente não lembro o nome do filme, esse comentário ficou meio “entendedores entenderão”.
          Abraços.

          ps: agora com o dólar infinito então resolveram tirar o IPI de carros elétricos, é isso mesmo?

          • Alberto Prado

            O Demolidor. Baseado no jogo de mesmo nome. Virou um cult esse filme, hsauhua. Até hoje não sei como se usa as 3 conchinhas.

          • Bruno

            Pra raspar a merda do ânus.

        • Diego Marco Trindade

          Tem carros da Volvo (aqueles que não tem segurança ativa de motor boxer e o c**alho a quatro) que possuem proteção para o pedestre, caso venha a ser atropelado.

    • Eduardo

      A pergunta é: e se o número de vítimas pequenas estiver certa? Um bom exemplo é desviar de um grupo que resolveu entrar na rua para fazer manifestação e o carro desvia para acertar justamente quem está na calçada. Ou seja, a máquina protegeu o errado e puniu quem está certo.

      • Bruno

        Ele nunca será perfeito, por isso ainda precisa de alguém atrás do volante para frear manualmente quando essas variáveis ocorrerem.

  • rbsouto

    Carro autônomo não dirige bêbado e enxerga bem à noite. Carro Autonômo wins.

  • Cleverson Biora

    Não vi o dilema ainda, a escolha é simples salvar o maior numero de vidas sem colocar os ocupantes em risco.
    Numa situação similar com um carro comum, salvaria a minha vida e dos ocupantes que estão sobre minha responsabilidade. O mesmo vale para a I.A. tem que proteger aqueles que estão sobre a responsabilidade dela, os ocupantes do carro.

    • Lui Spin

      Exatamente. O carro é seu, em primeiro lugar ele tem que zelar pela sua segurança.

      Se o carro é autônomo, ele já está dirigindo corretamente. Ou seja, dentro do limite de velocidade, respeitando a distancia do carro da frente, na mão certa, etc.

      • Cleverson Biora

        Sim, você adquire um item para sua segurança, então é isso que ele tem que fazer, se você contrata um segurança, você não espera que ele minimize o estrago, mas sim que ele te proteja a todo custo.

        • Lui Spin

          Muito boa a analogia com o segurança.

      • советский медведь

        Faz sentido. Pensando por esse ângulo a quantidade de acidentes seria menor em todos os sentidos, porque o carro nunca iria avançar o sinal vermelho ou ultrapassar o limite de velocidade, e talvez sabendo que o carro autônomo não vai parar, talvez o pedestre passe a respeitar mais a sinalização de trânsito também.

    • Majin-boo

      Você prefere então se salvar e matar 10 pessoas? Sua vida vale mais que 10 pessoas?

      • Minion

        Então doa todos os seus órgãos agora e salve 8 pessoas..

      • Eduardo

        A depender sim. Em uma situação em que duas pessoas resolvem entrar na frente do carro, como ficaria? Se você jogar na calçada e matar uma pessoa basicamente o que fez foi punir quem estava certo (na calçada) e premiar quem estava errado (na rua).

        Há alguns dias 3 marginais tentaram render uma pessoa em um viaduto de SP. O cara jogou o carro e passou por cima de um deles. Pergunta: que vida vale mais as 3 que estavam na rua ou a do motorista?

        A questão é muito mais complexa que simplesmente numerar quantidades de vidas a ser salva ou sacrificada.

      • Cleverson Biora

        Sim, partindo do pré suposto que um carro autônomo não colocou as pessoas em risco, quem colocou elas em risco foram elas mesma, e alem disso qualquer um que não seja hipócrita assume que a sua vida e de seus familiares, valem mais que a de desconhecidos, é nosso instinto natural..
        Num exemplo mais amplo podemos ainda facilitar mais esta decisão, para aqueles que são pais, que não é meu caso, se estivesse você e seu filho (ou sua mãe) no carro, quem você escolheria então?

  • Se você estiver num carro autônomo e, como aconteceu recentemente em São Paulo (nas proximidades da Via Anchieta/Almirante Delamare), bandidos se colocarem à frente do veículo anunciando um assalto, como fica?

    • Minion

      Fuuuuuuu.

  • Lui Spin

    Se o carro é meu, ele tem que fazer de tudo para preservar a minha vida em primeiro lugar.

  • Ruan Rodrigo

    a Vida dos passageiros seria quesito de desempate, salva o maior número de pessoas e em caso de empate salva os passageiros dentro do carro.

  • André Melo

    Além da discussão moral posta aqui, eu imagino, em outras situações, como a inteligência artificial iria reagir. Imagine você dirigindo e um guarda de trânsito dá uma ordem que contrarie a legislação de trânsito, seja para você ultrapassar um sinal vermelho para que a ambulância que vem atras possa passar também, seja para parar num sinal verde, para que possa ser minimizado um engarrafamento na via que está cruzando, ou até mesmo para parar em uma blitz. Se o sinal estiver quebrado, como faz? Hoje mesmo passei por um que alternava entre o vermelho e o verde a cada dois segundos. No caso americano, onde você não pode ultrapassar um veículo escolar parado, o carro seria capaz de reconhecer um veículo escolar de qualquer modelo? O problema é que na prática existem muitas situações aleatórias e não programadas que podem ocorrer no trânsito. Será que os carros autônomos de hoje estariam preparados para todas essas situações?

  • Flávio Simões

    Futura pior profissão do mundo, analista de testes de software de automóveis autônomos.

  • Djalma Ribeiro

    Carro autônomo só funciona se tudo fosse autônomo, sem variantes. Enquanto houver imprevistos vai ser complicado e os humanos terão que desempatar a dúvida.

    • Eduardo

      Concordo. O problema é que 80 Km/h se não estiver prestando atenção (ou seja, inutilizou o motivo da inteligência), a simplesmente inútil o desempate.

  • O Datilógrafo da AEB

    Um algoritmo de aleatoriedade. Problema resolvido.

    • Majin-boo

      melhor resposta

      • Sophos Nsm

        eita. verdade

    • Essa hipótese tá no texto.

  • Anderson Fernandes

    Na verdade acho simples de se chegar em um consenso, os humanos dentro do carro são seres humanos com 99% de certeza os humanos fora do carro são uma porcentagem menor variando de acordo com a sofisticação dos sensores. Entre salvar 1 humano e 5 possíveis humanos, é mais sensato salvar o primeiro.

  • Marcelo Mosczynski

    No Brasil nem precisa escolher, o pedestre praticamente pula na frente dos carros, não se importando se na velocidade do veículo ele pode evitar o atropelamento

  • O carro, em primeiro lugar, não deve entrar em situações como essa. Se a pista é ruim, pouca aderência ou chances de pedestre, a velocidade deve ser reduzida para um limite seguro. Ou em condições piores o sistema simplesmente não acionar, deixando apenas o modo manual disponível. Pronto, dilema resolvido.

    • Majin-boo

      Você está dirigindo com seu carro autônomo numa estrada boa, de repente um caminhoneiro se desvia da esquerda para direita bem na sua frente, a uma velocidade bem menor. Como o carro vai voltar pro manual no momento? E se no lado direito for calçada, o carro deve frear e se enfiar em baixo do caminhão ou subir na calçada?

      • Pois é! O pessoal não tá expandindo as possibilidades.

      • O carro autônomo não deve se colocar ao lado de um veículo não autônomo sem uma margem de segurança. Resolvido.

        • Majin-boo

          Você é daquelas pessoas que acham que se alguém lhe der um tiro consegue desviar da bala?
          Se um veículo autônomo não poder ficar do lado dos manuais, então irão ficar todos na garagem. Além, eu estou dando um pequeno exemplo, pode acontecer N fatores na estrada, um cachorro corre pra ista, uma árvore cai de podre, um pneu estoura, e mais milhares de fatores. Você só se limita a uma estrada reta e 100% perfeita….

        • Ednei Monteiro

          O carro autonomo está numa via e uma árvore cai a sua frente. Ele pode desviar e invadir a contramão, pode colidir contra a árvore ou pode subir no meio-fio onde há pedestres. Qual escolher? Bater contra um árvore pode resultar em morte do motorista, bater num veículo na contramão pode resultar na morte de dois motoristas no mínimo, subir na calçada pode resultar na morte dos pedestres. Carro autônomo só será “seguro” se rodar dentro de vias isoladas. Mas aí virou um trem. E a questão ética para um trem é simples. Tenta frear e o que tiver na frente que corra.

  • 👽 Gliesiano

    Tanto faz, Hackerman vai dar um by-pass nisso e disponibilizar uma rom com o modo Carmageddon. Baixe, instale, seja feliz e ainda por cima culpe o fabricante.

    • Organizações Tabajara™

      Mas se instalar a rom você perde a garantia, inclusive da bateria que é caríssima.

  • Jean Marcel Duvoisin Shmidt

    a resposta me parece tão simples quanto a pergunta: “eu não estou disposto a comprar um carro que pode intencionalmente me matar para salvar alguém, e não acho que deva obrigar ninguem a fazê-lo”

  • Well Dias

    Esta pesquisa baseia-se na ideia que todos são inocentes. E se esses dez entram propositalmente na frente do carro para matar os que estão dentro dele?

    • Emílio B. Pedrollo

      E se forem 10 estupradores de criancinhas fugindo da prisão? Tem como acelerar?

    • 👽 Gliesiano

      Aí o carro ajuda a fazer o serviço, e depois é condenado por associação criminosa e homicídio doloso, cumpre 1/6 da pena e volta para as ruas… Culpa do PT

  • Claudio Roberto Cussuol

    Esse papo é bem complexo.
    Asimov escreveu um monte sobre esses dilemas.

    Mato esse ou salvo aquele?
    Atropelo a criança ou o velhinho?
    Mas e se o velhinho for um cientista que está prestes a descobrir a cura definitiva pro cancer?

  • Pedron

    A primeira imagem é daquele filme do Tarantino? Filmaço, mas esqueci o nome hauhau

  • Troll Civilizado

    Ótima matéria, continue assim Matheus.

    • HAHAAHAHAHAHAHAHHAAHHAHAHAHAAHAH
      Excelente!!!!! Excelente!!! Maldito!! hahahahahahahahahahahah

      • hahahahahahaha a cartola hahhahahahahaaahhahahaah

        • Troll Civilizado

          Foi um presente de um grande amigo em uma das minhas viagens a Londres.

      • Troll Civilizado

        Obrigado caro amigo, mas excelente mesmo são suas matérias.
        Abraços

        • Não sou seu amigo hahahahahah (aqueles ignorantes!)

          • Troll Civilizado

            Que isso cara, que revolta, mas eu sou a prova viva de que trolls podem ser civilizados

          • Realmente podem, alguns são até chiques.
            Normalmente alguns mesmo educados estariam de boné… 😛

          • Renato Oliveira

            Não alimente o troll. Risos.

          • Nem, trolls trolls, negócios a parte, meus nuggets são meus nuggets … 😛

          • Obrigado!

  • Storvs

    “Lei Zero”, acima de todas as outras: umcarro robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.

    1ª Lei: Um carro não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
    2ª Lei: Um carro deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
    3ª Lei: Um carro deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

  • Storvs

    Chegou a hora de usar as leis!!!!!

  • Fred Sidman

    Como meu interesse na área de TI é 100% leitura e nos sociais, geralmente eu fico nas ideias meia boca sobre o que de fato pode ser feito.
    O engraçado é que esse post ao contrario, a discussão sobre ética em tomada de decisão já andou bastante, falta conhecer o que de fato pode ser feito.

    Esse estudo nada mais é do que uma remodelagem do experimento hipotético do maquinista.

  • D_Aiello

    Exatas querendo resolver problema de Humanas. Boa sorte com esse paradigma!
    .
    .
    .
    .
    .
    .
    .
    .
    ..
    .
    (na verdade acho a divisão ridícula, mas fica aqui a provocação pra quem leva a sério)

  • Vagner Da Silva

    Minha percepção é que a vida de que está no carro não deve ser considerada, eles assumiram o risco e responsabilidade. Pode parecer radical, mas mesmo numa colisão quem está dentro do carro vai ter uma chance de sobreviver maior que os pedestres.

  • Omena

    Isso só vale na teoria,pq na prática os carros autônomos possuiu diversos sensores que com uma distância bem maior já iria notar uma situação ”diferente”. Acho que não deveriam gastar essa energia pra determinar quem matar, mas sim aprimorar os sensores para que não morra ninguém.

    • Daniel

      Uma hora sempre morre…

    • Ednei Monteiro

      Uma hora um situação de risco ocorrerá. Se o carro autônomo não ficar limitado a uma via exclusiva e isolada para ele, uma hora vai dar merda. Um tronco de árvore que cai numa via já é um evento imprevisível o bastante para encadear todo uma tomada de decisão que pode resultar na morte do motorista ou dos transeuntes.

  • 1bt

    E se em vez de 10 pessoas distraídas fosse 1 bandido tranquilo? Tranquilo por ter certeza que o carro vai parar para ele em segurança, mesmo ele estando em um lugar pouco iluminado.

    • Anderson Fernandes

      Sem duvida os carros autônomos necessitaram de uma espécie de botão de pânico para uma situação assim.

  • Minion

    Legal que tem gente já pensando nisso, mas já conseguiram que a AI negociar passagem com outros motoristas?? Tipo em uma rotatória?? Primeiro acho que eles tem que trabalhar na interação com humanos, pois no começo não vai ter so maquinas no trânsito.

    • Majin-boo

      isso é apenas problema de programação que o desenvolvedor tem que resolver, a questão da moralidade (do atropelar ou não) é com juízes, áreas diferentes, podem ser desenvolvidas separadamente.

  • Atrollando Natuacara

    Boa materia Matheus, mostra um cenário hipotético em que podemos ver a Lei de Murphy (“conjunto infelizes de eventos faz…”) versus Lei da Robotica (afinal se é carro autônomo, considero robô de rodas).

    Mas com o poder computacional aliado a sensores rápidos não é possível programar para modo “atropela mas não mata” na situação em que não tem como evitar um acidente?

  • Artur Gustavo

    Ejetar antes da parede!!! Batman já tem a resposta!

  • Bruno

    É bem complexo, pq tem um monte de “e se..”;
    – Pode ser um grupo de crianças
    – Um grupo de idosos
    – Um grupo de bandidos
    – E se o bandido colocar manequins de crianças na rua que enganam os sensores ?
    – E se forem seus filhos ?
    É muita questão…Lembro do filme “eu, robô” que o robô resolve salvar o maluco do pedaço, pq a criança tinha menos chance de ser salva quando o carro caiu no rio.

    • Theuer

      “o robô resolve salvar o maluco do pedaço”
      Essa frase foi o “boa noite” da Internet para mim hoje. 🙂
      Excelente!

  • Wallacy

    Acredito que vocês (inclusive os pesquisadores do MIT) estão comentando falácias de falsa analogia uma atrás da outra. Simplesmente não é possível nenhum desses cenários. Não é falta de imaginação, é a crítica do excesso dela. É como pensar no caso onde ETs não vão entender placas de trânsito, então seria necessário adicionar sinais intergalácticos nas placas.

    Antes de surgir um carro com a capacidade computacional para tomar esse tipo de decisão, os carros já vão ter que se adequar a legislação e qualquer outra regra intermediária que venha a surgir. Não cabe ao programador decidir quem deve ser atropelado pois o software não vai ser capaz inicialmente diferenciar 10 pessoas de 10 espantalhos, ou 10 qualquer coisa. Inicialmente obstáculo é obstáculo. Mesmo os Teslas atuais não sabem diferenciar uma caixa ou um carro no acostamento, ele sabe que é algo que não pode bater só isso. E isso não vai mudar tão cedo. E quando mudar, a própria forma das vias ou como os pedrestes interagem com elas podem já não ser as mesmas, visando a se adaptar as dificuldades técnicas desses veículos inclusive. Carros autônomos vão atropelar pessoas que pularem na frente do carro, e isso será considerados o certo legalmente e moralmente pois como o carro não tem como diferenciar uma lixeira no acostamento de uma pessoa logo nunca poderá colocar o motorista em risco baseado em um pressuposto com grande chance de ser falso. Não se pode sacrificar as funções básicas do veículos com análises contextuais não factíveis.
    Com o tempo os sensores poderão até ser capaz de diferenciar, mas aí não só carros autônomos já serão mais comuns como já também teremos mais tecnologia para melhorar os sensores de prevenção de acidentes e poderemos saber com muito mais antecedência tudo que vem pela frente na pista. E mesmo na mais remota possibilidade onde todos os sensores falharam e o humano dentro do carro falhou (dormiu por exemplo) não pode se presumir que o carro só terá duas opções fatais sem antes presumir outras centenas de coisas improváveis como pessoas se jogando de um ônibus em movimento na direção de outro veículo para se proteger de uma suposta cobra e o motorista do ônibus não fez o óbvio em parar no acostamento e as pessoas saírem pela porta, etc.

    Não da para achar que é possível programar tais situações. É por isso que existe o termo acidente, é algo inesperado, e contra acidentes a humanidade já tem grande experiência em tratar: Cada parte cuida do seu e quem vacilar vai pra vala. Pedrestes não devem se jogar na pista, se se jogar pode morrer, se muita gente morrer vão isolar as pistas, não pelos pedrestes mas pelos carros, e assim evolui as leis, de trânsito e outras. Já existe muita jurisprudência para acidente de carro, quem e culpado quem poderia fazer o que….

    Mas o ponto principal é que um carro nunca vai tomar essa decisão pois mesmo no futuro ele não poderá dar nenhuma garantia que está salvando x ou y. Ele sabe que dentro tem um humano, mas fora é só suposição.

    Caso seja feito de outra forma, alguns manequins na pista poderá fazer com que todos os carros se joguem do desfiladeiro um atrás do outro. Já pensou? Carro conta os manequins vê 10 “pessoas” e se joga, próximo carro o mesmo. Próximo o mesmo. Etc… Não é assim que funciona. A via é dos veículos, ele vai frear, buzinar para o povo sair, etc. Mas não vai nem deve matar os ocupantes de propósito. Imagina falha nos sensores? Pode-se imaginar um cenário absurdo onde só tem um grupo de pessoas e um muro e de alguma forma só foi detectado em cima da hora mas ao mesmo tempo os sensores são confiáveis o bastante para dizer quem é quem? Insanidade. Não da para por dois pesos e duas medidas nesse caso.

  • Ednei Monteiro

    Aqui em Brasília ocorrem muitos acidentes no eixo monumental. Uma via de 80 km/h que não pode ter grades separando as faixas contrárias porque alguém resolveu que ser patrimônio da humanidade é mais importante que a segurança dos motoristas. Pois bem, eu sempre percebi 3 tipos de acidentes fatais: 1. o pedestre brincando de frog e é atingido por um carro, 2. o pedestre brinca de frog, o carro desvia para a esquerda, invade a contramão e atinge outro de frente. Morte dos dois lados e o “culpado” vai embora em olhar para trás. 3. O veículo desvia para a direita e acerta uma árvore ou cai num “tesourinha” (um mini viaduto de brasiliense. A esposa de um amigo escolheu essa opção e passou meses em coma. Outros não têm tanta “sorte”. Eu defini para mim uma estratégia. São 3 faixas em cada lado. Sempre procuro me manter na faixa central. Ela me permite ter uma faixa adicional antes da morte certa. Inclusive quando alguém do outro lado opta pela contramão. Outra estratégia que adotei, se outro veículo se joga contra o meu, não desvio para a contramão ou para fora da via. Me mantenho onde estou (já arranquei dois retrovisores por causa disso). E se aparecer alguém brincando de frog e só me sobraram árvore/viaduto ou contramão, sinto muito pelo pedestre que se jogou. Nesse caso, é melhor ser julgado por 7 do que carregado por 6. Fora os retrovisores perdidos quando alguém teve que se jogar contra mim, minha ex-esposa já foi salva pela primeira parte da estratégia, um carro invadiu a contramão e ele teve tempo de desviar para uma das faixas restantes. Quando morreu de susto, mas evitou a colisão frontal. Enfim, essas questões éticas não são discutidas de hoje. O dilema do trem, o dilema do bonde, muitos filosofam sobre isso há muito tempo. E eu não compraria um carro que tomaria essa decisão por mim. Como alguém comentou, por mais que a quantidade de gente na rua seja maior que a quantidade de gente no carro, descartadas todas as manobras em que ninguém se fere, que seja ferido quem causou o problema.

  • Acho que vale a pena lembrar aqui que as chances de entrar em um cenário de escolha entre a vida do motorista e outras vidas é muito pequena. Já as chances do carro autônomo salvar vidas em situações em que não tem que escolher entre as mesmas são muito maiores.

    Dessa forma, mesmo com um carro que pode te matar a qualquer momento, você sai no lucro, pois o carro tem muito mais chance de te salvar a qualquer momento de uma situação em que você não se salvaria do que cair em uma situação de escolha em que ele te mataria.

    Confere produção?

    • Exato, é isso que os caras não estão parando pra pensar. Pessoal não se enxerga como pedestre, só como motorista. Isso é sintomático.

  • leoncral

    Penso eu q se o carro é autônomo ele nunca ia bater em um grupo de 10 pessoas. Os sensores iriam detectar bem antes qualquer problema, ate mesmo esses eventuais ai. Mas realmente é uma questão interessante e se baseando nisso ninguém realmente compraria um carro q te mataria.

    • Eduardo

      Fale isto em uma curva sem visão para o outro lado.

      • leoncral

        Mas ai ele reduziria a velocidade e avisaria aos passageiros que iria mais devagar pq não tem visão do que esta por vim. Não será um humano dirigindo, um humano em uma curva dessa ai ele iria acelerar ao invés de fazer o correto que é reduzir a velocidade. Eu acredito nessa tecnologia e quero muito que ela der certo.

  • Eduardo

    “Na maioria dos casos, as pessoas preferiam que o carro fosse programado para evitar o maior número de mortes mesmo que isso pudesse tirar a vida do motorista. Desde que, neste caso, o motorista não seja a própria pessoa”

    -> Ser caridoso é simples, bom e pega muito bem. Mas quando o couro que está em jogo é do próprio cidadão, aí…

  • Wagner Felix

    Autopreservação, não tem o que discutir, é só copiar a natureza.

  • Diego Marco Trindade

    Um dia meu pai estava voltando do litoral em uma van do trabalho,
    quando um bêbado num cavalo, que estava andando no acostamento da
    rodovia, deu uma puxada no estribo e meio que entrou na rodovia. O
    parabrisa da van acertou a cabeça do cavalo, que morreu na hora e
    capotou com o bêbado com tudo. A disgrama do bêbado não morreu, mas se
    machucou um pouco.

    Enfim, acidentes só serão evitados quando houver capacetes autonomos para pessoas também.

  • hey you

    Eu fico imaginando os muleques entrando na rodovia, na frente dos carros, para faze-los pararem só por diversão, e postando videos no youtube e selfies no instagram…

  • Zé, o coala

    É bem simples, a hora que o carro identificar uma questão moral ele aciona uma sirene, desliga a direção automática e fala pro motorista “agora é com você”!

  • Oli

    Se o carro desviar sempre pra parede, vai ser uma maneira massa de cometer assassinatos. Pego dois bebes e me jogo na frente do carro. Motorista morto. Próximo.

  • Lissandro

    é tão difícil? Se o carro tem um motorista (dã) é ele quem deveria escolher nessa situação
    “Imagine que em um futuro não muito distante, você possua um carro autônomo (…) pode matar o motorista e um outro ocupante. O que o carro deve fazer?”
    WAI, SÔ. NADA.

  • Mil b

    O que é fato, realidade, e que muitos que se manifestaram abaixo, sem se dar conta e implicitamente em seus manifestos, declararam, é que apesar do Instintivo ‘programa’ de autopreservação do humano o Racional Inteligente afeta-nos na tomada de decisão e pensa no Próximo, por mais que se diga não quando fora da situação de risco. Podem achar tosco o que vou dizer mais, o Amor ao Próximo (Esse é o Sentimento maior do Ser), principalmente quando se inclui no evento o representante nosso no futuro ( Crianças e Jovens) e idosos ( que representam a base da nossa existência ) prevalece, uma vez que, esse sim é o sentimento maior do ser humano, a passagem de seus ‘arquivos’, evoluídos por suas experiências de vida, ao descendente, direto ou indireto, para manter-se vivo no outro, mantendo a espécie. Amor ao Próximo. Pode dizer que não mas, quantas vezes você se prejudicou para não prejudicar o outro, até sob risco?
    Além das disposições anteriores, tem as situações imprevisíveis, como alguém ser atirado na via, voluntária ou involuntariamente em ‘n’ situações…

    O fato é que vc sempre vai desviar!
    e quem não desvia, é destituído do sentimento de preservação da espécie..são os caras maus…

  • Tiago Frioli

    E se quem ele vai matar estava no local apropriado , como na calçada e as outras pessoas que ele irá desviar estavam erradas, como atravessando em lugar proibido ? Como que fica ?

  • Rodrigo Henrique

    “Ser realista de ser pobre ” Como sei que não terei um carro autônomo nos meus próximos 30 anos. digo isso porque levei 30 anos para ter um carro com direção hidráulica kkkk. Então, minha Opinião na pesquisa seria que, o carro auto exploda-se antes de atingir as pessoas a sua frente tipo um arberg explosivo. Ai alguns deve falar, e seu filho no futuro não muito distante tiver um carro autônomo. Eu aqui que vos escrevo estou vivo há 30 anos, graças ao bom Deus e os anjos da guarda.Posso dizer,Vivi e sobrevivi ao cominho da vida, andava descalço na rua de terra, pisava no prego enferrujados,pulava de (fincão) em lagoas na cidade sem saber que tinha abaixo, tipo bambu, que poderia fincar na barriga, era comum isso acontecer,brigava na escola no famoso mano-a-mano, (pois é meu filho sobreviverá aos costume da sua era do seu jeito) agora voltando onde quero chegar; e travessava Av. Presidente Dutra Km 129 sentido SP todos os dias pra jogar bola.Em 1995 onde era maior índice de atropelamento, na época não avia passarela, foi construída em 2012. Lembro eu que o Policial rodoviário dizia: “Se você for atropelado será constatado suicídio na Dutra” ele dizia que se o carro me atropelar será uma mãe chorando, se o motorista desviar e colidir com outro carro do lado oposto seria 10 mães chorando levando em conta 10 passageiros não familiares.Chega de balela, Estamos falando de tecnologia avançada ou case (AI) poderia o carro apontar para um infeliz isolado do grupo e passar por cima caso não der mata o motorista ou ciclista. No final o carro tem que independe da decisão final, Fazer UMA MÃE CHORAR !!!

    • Leonam Ramos Folí

      manow q viagem nesse texto, juro q li ele todo com a esperança q fosse zoeira ‘-‘

      • Rodrigo Henrique

        kkkkkkk não é serio kkk deu pra entender a minha logica + ou – kkkkk

  • Narciso

    E agora Asimov?

  • Firmo

    Na minha opnião deveriam é estar tentando desenvolver um transporte de massa matador (Tipo tele transporte kkkk), esse negocio de cada um ter seu carro já nasce com o problema dos engarrafamentos. Mas o capitalismo quer vender carros, carros, carros, carros…

  • Pra mim bastaria colocar as 3 leis da robótica. Nah, Deixe bater e faça valer as 3 leis de Newton.

  • Eu penso o seguinte:
    1) O carro sempre vai dirigir de maneira mais segura do que um humano, logo, a direção autônoma é melhor do que a manual.

    2) Sendo o carro programado para dirigir de maneira mais segura, obviamente o risco de ele causar um acidente é mínimo.

    3) Portanto devemos sempre aceitar que o carro tomou uma decisão melhor do que um humano tomaria se estivesse exposto a mesma situação de acidente iminente e inevitável.

    4) A programação do carro deve preocupar-se primeiramente em proteger os ocupantes do carro, e se for possível, deve procurar minimizar as consequências para quem estiver fora do carro – desde que isso não prejudique os ocupantes do carro. A prioridade é sempre os ocupantes do carro.

    5) Sendo portanto o carro o “inocente” no caso de um acidente inevitável causado por um agente externo, culpa-se o agente causador pelas eventuais consequências.

    6) Independente da causa e da consequência, o “log” do carro deve ser enviado ao fabricante, para que sirva de aprendizado para melhorar o software.

    7) Esta melhoria contínua no software de direção autônoma em algum momento chegará a tal nível de maturidade que estará preparada para lidar com praticamente qualquer situação, por mais adversa que possa parecer… E a tendência é que reduza-se a ZERO os acidentes envolvendo carros autônomos em pouquíssimo tempo, seja por falha de um agente externo ou por falha na programação do carro.

  • A Tesla deve ter muito CULHÕES para soltar para geral esse “patch” da direção automática. O tanto de gente que tem testado isso!!! Imagina só se o software “dá ruim” e causa um acidente, a quantidade de processos que ele pode (vai?) receber?

  • Jhonatan Kuniyoshi

    Copiou até o título do reddit!

  • Gabriel Inácio

    Quando se trata de gente, uma pessoa pode valer mais que mil, dependendo da perspectiva da pessoa. Por exemplo, minha mãe e minha esposa são mais importantes pra mim do que os moradores do meu bairro, então preservaria a vida deles porque são muitos e sacrificaria das duas pessoas mais importantes pra mim? Ou preservo essas duas pessoas e sacrifico todas essas famílias e pessoas de bem que também tem outras pessoas a quem amam da mesma forma que eu?

  • Cacio Frigerio

    Por isso que eu nunca vou dar este gostinho ao computador. Eu já não gosto do básico piloto automático padrão.

    Para mim a direção sempre foi além de um modo de me locomover um prazer.

  • Bruno Nunes

    Eu preferiria que meu carro me sacrificasse à matar 10 pessoas. Sem ser hipócrita.

  • Pingback: VIVO TRENDS | Carros autônomos: programados para matar?()

  • Pingback: Carros programados para matar e micro-ondas pró-cotas raciais | Misturista()

  • Daniel Silva

    eu sou tipo o Trump, EU PRIMEIRO o resto depois.

  • Rogerio Demetrio

    Casualmente eu e meu irmão conversavamos hoje no almoço sobre este caso.Proteger o motorista ou crianças que estão passando. E se o motorista for o House ou qualquer médico renomado ficcional ou não, contra crianças em cadeiras de rodas e com cancer segurando um panda. Como o carro deve agir.

Aproveite nossos cupons de desconto:

Cupom de desconto Locaweb, Cupom de desconto HP, Cupom de desconto Descomplica, Cupom de desconto Nuuvem, Cupom de desconto CVC, Cupom de desconto Asus, Cupom de desconto World Tennis