Mercedes resolveu o Dilema Moral dos carros autônomos

rw

Imagine a cena: você está tranquilo tirando uma soneca no banco de trás de seu Tesla, a estrada reporta 100% de carros autônomos, todos coordenados viajando a 180 km/h em perfeita segurança. Saindo de uma curva vem o Marquinho em sua Bike de Protesto, andando no meio da rua para Empoderar Ciclistas.

Seu Tesla tem que decidir entre encacetar o Marquinho ou alterar a direção no meio da curva, caindo em um precipício. Qual a solução?

Esse é um dilema sério que carros autônomos enfrentarão. Como decidir se vão matar os ocupantes ou as pessoas do lado de fora? E se for um grupo de órfãos? A vida dele vale mais que a do motorista? Mesmo que 99% das pessoas racionalmente escolha salvar os órfãos, ninguém quer viajar em um carro que você SABE vai te matar se for preciso.


slava86111 — Rick and Morty – Keep Summer Safe

Em um mundo ideal todo carro seria como a nave do Rick…

A Mercedes agora deu uma aliviada nesse dilema. Ao menos segundo Christoph Von Hugo, Gerente dos Sistemas de Direção Assistida da empresa. Em uma entrevista no Paris Motor Show, ele foi direito:

Se tudo que você sabe com certeza é que uma morte pode ser evitada essa é sua prioridade. Você pode sacrificar o carro, mas as pessoas que você salvou, você não sabe o que vai acontecer com elas depois, as situações são muito complexas, então você salva as vidas que você sabe que pode salvar“.

Tradução: você jogar o carro do despenhadeiro não salva os órfãos se atrás de você vem uma Scania.

Tradução da tradução: querido cliente, para nós você que paga US$ 150 mil no nosso carro é muito mais valioso que o Marquinho; não se preocupe, nossa IA sempre colocará a sua vida em primeiro lugar.

Eu posso viver com isso.

car

Fonte: Autoexpress.

Relacionados: , , , , ,

Autor: Carlos Cardoso

Entusiasta de tecnologia, tiete de Sagan e Clarke, micreiro, hobbysta de eletrônica pré-pic, analista de sistemas e contínuo high-tech. Cardoso escreve sobre informática desde antes da Internet, tendo publicado mais de 10 livros cobrindo de PDAs e Flash até Linux. Divide seu tempo entre escrever para o MeioBIt e promover seus últimos best-sellers O Buraco da Beatriz e Calcinhas no Espaço.

Compartilhar
  • Maldito criador da caixa de susto

  • Daniel

    1ª vez que minha preferência (insignificante) pendeu fortemente pro lado da Mercedes… Quem sabe em um futuro muito, muito distante eu esqueça dos Teslas e prefira um Mercedes… Pelo menos até sair um hack, ou uma att, que tenha a mesma opinião sobre salvar vidas…

  • DiMais

    a verdade nua e crua.. até na minissérie “Justiça” (sim, eu vi) algumas vertentes desse assunto foram abordadas..
    o que sabemos é que nenhuma decisão será 100% imune a julgamentos.

    • Não se preocupe, dessa vez ninguém irá te julgar. Afinal, foi uma série muito boa e que até me deu esperanças de que a dramaturgia na TV tenha um bom futuro.

      Mas depois estreou esse SuperMax e a esperança morreu novamente.

      • DiMais

        o julgamento que me refiro é sobre as escolhas no caso do acidente, sempre haverá correntes com seus “fortes” argumentos para te defender ou criticar seja lá qual for sua escolha.

  • Certa está a Mercedes.
    Se eu tiver a opção de comprar um carro que vai sempre salvar os ocupantes, ou outro que vai considerar terceiros, vou sempre optar pelo que priorize os ocupantes.

    • Até pq essa é a decisão natural que os próprios seres humanos tomariam, se estivessem pilotando os próprios carros.

      • Zé das Covi

        e o quanto feliz e justa a nossa sociedade é com os humanos tomando as decisoes ?

        • Me diga você.

          Pq apesar dos pesares, chegamos ao topo da hierarquia da natureza com nossos próprios meios. Nossa sociedade não é um nirvana, mas é a que temos. Mundo feliz e justo só existe no mundo dos sonhos (na cabeça dos socialistas).

        • André K

          Exatamente! Vamos passar as decisões para as marmotas.

          • Neste caso ja sabemos que o carro vai pular do penhasco! AHHAHAHAHAHAHAHHA

      • Arnoud Arnoud Rodrigues

        Não, não é! Não julgo quem pensa(e age) diferente, mas se eu puder salvar alguém(mesmo me colocando em risco) é o que eu farei. Nem tudo que é “natural” é bom! Aliás, nem tudo que é natural é permitido ou aceitável. Abraços!

        • Não seja hipócrita e nem se faça de burro. O “dilema” está justamente em ter que escolher UM para morrer: você (o motorista do carro) ou o transeunte.

          Não é questão de tentar ajudar o próximo, mas dar a vida por ele. E a não ser que vc seja Jesus, nenhum outro humano faz o mesmo.

          • Arnoud Arnoud Rodrigues

            Não estou sendo hipócrita. É apenas acho estranho a naturalidade com que o pessoal de TI lida com este dilema de forma tão automática. Talvez na sua opinião sejam todos burros, mas existem pessoas que neste dilema fariam escolhas diferentes. Mais uma vez, abraços!

          • Wallacy

            É como o Dilema trabalhista de ser enganado por um Duende magico com promessa de um balde de outro no fim do arco íris.

            Esse dilema é falho porque ele assume que chegou um ponto onde SÓ existe essa possibilidade, não existe mais possibilidade de desviar, não existe mais como freiar, nada, só vida ou morte de um dos dois. O problema desse dileme é que assume que todos os sensores e medidas defensivas anteriores ao acidadente falharam, mas de alguma forma, ele sabe que do outro lado realmente existe um humano. E se Marquinhos era um manequim em cima de uma bicicleta? Vou morrer atoa?

            Não pode-se presumir que o carro que esteve errado durante todas as medidas defensivas, se meteu em uma situação onde só existe essas duas escolhas, vai estar certo em relação a matar o unico ser vivo que ele tem 100% que não tem culpa de nada, a pessoa que estava de carona dentro do carro. Se marquinhos realmente é um humano, só colocou o carro nessa posição após enganar todas as regras de segurança (pulou na pista de um ponto encoberto por exemplo). Não existe dilema para suicidio. Se o carro não conseguir desviar, vai acertar Marquinhos, matar o ocupante que é inocente é, em minha opinião, indiscutivelmente errado.

            Mesmo em uma relação N->1 isso vale, pois se não existe tempo hábil para desviar não existe tempo hábil para confirmar que o que está a sua frente e irá colidir contra você é um humano, e que de alguma forma merecem mais viver que você.

          • Arnoud Arnoud Rodrigues

            Excelente colocação sobre ser um falso dilema. Essa situação limite é quase hipotética. Mas como outros colegas já pontuaram a reação “natural” é desviar. A não ser que a pessoa esteja programada para não desviar apenas no caso de um ciclista. Se um caminhão parar na frente dele o cara vai ligar o foda-se e bater assim mesmo só para não desviar? Claro que não!

            Enfim, tenho q esperança que os carros automáticos vão acabar por diminuir as mortes e sequelas causadas pelos maus motoristas. Pelo simples fato de que carros automaticos vão respeitar automaticamente as regras de trânsito.

          • Daniel

            Ai vc falou algo que concordo e realmente acredito como um fato e não uma possibilidade, os acidentes VÃO diminuir e muito.

          • kleber peters

            A reação natural para condutores de veículos pequenos pode ser desviar. Dos grandes não. Vencer a inércia no meio de uma curva para desviar de um obstáculo é suicídio certo para o veículo de carga. Logo, passa por cima e depois vem ver o que era. Digo isto pois teremos caminhões autônomos em breve.

          • Cacio Frigerio

            Discordo TOTALMENTE. Eu desrespeito diarimente a regra de velocidade e certamente conduzo meu veículo MUITO MELHOR que imensa maioria das pessoas. O que mata é a imprudência e a falta de perícia. Em muitos outras casos são falhas mecânicas oriundas de problemas de manutenção ou de desgate precoce.

            Desrespeito a regra de trânsito responde por 10% dos acidentes. A regra é GENERALISTA. Ela não leva em conta a minha perícia na condução, nema condição do meu carro (melhor ou pior que o seu, apto ou não para determinada manobra). Portanto por ser GENERALISTA, ela tem que nivelar por baixo as coisas, afim de tentar garantir uma “segurança” para todos, igualdno um FUSCA 78 com pneu careca que freia de 80 a 0 km/h em 500m e um audi TT em 20m.

          • Boa colocação, eu só faria uma pequena correção, Marquinhos pra estar no meio da pista onde os carros estariam acima de 100km/h não seria um manequim, mas “teria o cérebro de um”, merecendo, segundo a lógica, se foder. =P

          • OverlordBR

            Esse dilema é falho porque ele assume que chegou um ponto onde SÓ existe
            essa possibilidade, não existe mais possibilidade de desviar, não
            existe mais como freiar, nada, só vida ou morte de um dos dois.

            Hein?
            Não é porque um cenário é extremamente improvável que o dilema torna-se falho.

            Se a possibilidade do cenário se concretizar existe, mesmo que ínfima, o cenário é claramente válido.

          • Wallacy

            Assim como a possibilidade de tudo ser culpa de Voldemort.

            Existem princípios físicos e lógicos que regem o mundo. Um cenário que apenas essas duas variáveis são verdadeiras, é basicamente impossível, se não impossível, dado a precedência dos fatos. Sem um exemplo onde a Navalha de Ocan não traga um solução mais satisfatória, duvido que tenhamos fundamentalmente um dilema nas mãos.

          • OverlordBR

            Um cenário que apenas essas duas variáveis são verdadeiras, é
            basicamente impossível, se não impossível, dado a precedência dos fatos.

            Bom, primeiro você está confundindo “improvável” com “impossível”.

            Se formos pensar assim como você diz, todos os cenários com uma probabilidade menor deveriam ser desconsiderados já que seriam “basicamente impossível”.

            E, na boa, o cenário de um obstáculo humano atravessar na frente do carro
            nem é tão improvável assim.

          • Wallacy

            É basicamente o princípio da falseabilidade. Tudo, tecnicamente é possível, mas a impossibilidade ou a falta de capacidade de se mostrar possível são suficientes na maioria dos casos.

            Óbvio que obstáculos humanos são prováveis, mas qual cenário o carro detectou um humano com 100% de acerto, e ainda tem precisamente apenas duas escolhas fatais? É preciso existir esse cenário, sem o problema da precedência.

            Humanos como obstáculos opacos precede a humanos como obstáculos certos. Estamos falando de uma tecnologia que não existe, e não falo da direção autônoma, mas dá detecção certa.

            Assumir que o carro é capaz de detectar um humano com certeza, quase que instantaneamente, estar em uma situação de risco, ter o controle do carro, e ainda com esse controle, calcular apenas essas duas possibilidades de ação para o controle resultante, é forçar muito a barra. É fingir que não existe precedência tecnológica.

            Radares e sensores infravermelhos podem ver pelas paredes, e já estão sendo equipados nos carros, em qual cenário ula detecção de obstáculos vai falhar a ponto de em último momento esse obstáculo se mostrar um humano e eu ainda tenho o controle para uma tomada de decisão, mas agora fatal também para o ocupante do carro.

            Assumir que o carro está certo sobre o obstáculo final é uma insanidade em minha opinião. Dado a precedência dos fatos.

          • la_gomes

            Depois de ler tudo que você escreveu eu prefiro que exista uma Skynet na nuvem que controle tudo, veja tudo e conforme os cenários forem aparecendo ela vai fazer testes, vidas serão perdidas no processo, mas ela em alguns anos e depois de detonar vários carros e matar várias pessoas aprenderá a melhor solução para cada cenário e assim quando um acidente ocorrer será devido a um cenário desconhecido pela Skynet.
            Será que assim o dilema deixa de existir?

          • Wallacy

            Gostaria de explicar melhor minha visão, pensando bem, em momento algum nesse post o fiz de forma adequada, então se me permite, quero complementar o comentário anterior que o Disqus vai deixar em baixo, senta que lá vai textão:

            Dilemas são problemas humanos, e em quase sua totalidade, não existe resposta correta. É como o Dilema do trem.

            Dilemas são sempre baseados em decisões humanas, e se elas são ou não adequadas é outro problema.

            O dito Dilema do carro autônomo, discute o problema de passar a solução de um dilema para uma maquina. Veja, concordo plenamente que precisamos apenas de imaginação para discutir sobre dilemas, mas quando envolvemos agentes não humanos na equação, precisamos tomar cuidado para não cair no eixo da fantasia (não que o dilema do carro seja de fato fantasioso), pois nossa mania de humanizar objetos e maquinas, nos fazem, inconscientemente atribuir inteligencia onde não existe.

            Dito isso, você está lá programando seu carro autônomo e tem como objetivo final, dar uma escolha ao problema do trem, onde o trem no caso é o carro. Qualquer escolha é igualmente valida, então o ponto é: Como ensinar o carro a escolher X ou Y. Temos que lembrar, não estamos falando de inteligencia artificial, e sim maquinas autônomas seguindo programação primaria.

            Daí você começa revisando o básico, para resolver o dilema, você antes tem que chegar ao ponto de desgaste, ou seja, se todas as outras respostas obvias não podem ser resolvidas, só sobra o dilema, se não, não existe dilema. Por exemplo, se resta o carro a possibilidade de desviar, não existe dilema, ele vai desviar, se resta o carro bater em uma arvore e o Airbag salvar o motorista, não existe dilema. Veja, estamos falando de um agente não humano, ele não pode magicamente tomar decisões que não sejam baseadas em estatística e precedência. Veja que no dilema do trem, escolhemos ignorar o fato que o trem pode parar, pois não damos ao controlador humano essa possibilidade, é um experimento plenamente humano, sem pés na realidade. Mas no caso do dilema do post, estamos falando de um contexto onde existem pessoas querem transpor esse dilema para a realidade, logo ele precisa ser real. Mesmo que não, diferente do dilema do trem, esse dilema trás falsas presunções para quem irá tomar a decisão final, o carro.

            Então você está lá tentando colocar na lista de prioridades o que fazer em cada situação, e está prestes a instruir o veiculo o que fazer caso só reste essas duas escolhas. Daí você tem que ir lá, e verificar se no radar existe um objeto em rota de colisão, esse objeto tem formato compatível com humanos, o mesmo radar que é capaz (como já foi demostrado pelo Google e outros) de ver através de objetos e se antecipar a possibilidade do problema o que levaria o carro a tomar uma medida preventiva (no caso do Google o pedestre se jogou na frente do carro deles “aleatoriamente” mas o carro detectou o padrão. Então olhando do ponto de vista do radar, entre possíveis candidatos a colisão, você está escolhendo todos aqueles que potencialmente são humanos, após todas as medidas anteriores falharem. Veja que você não determinou a causa do acidente, está apenas modelando possibilidades do ponto de vista do sistema. Agora vai para o sensor infravermelho, também usado para ver através de objetos diga-se de passagem, e vai fazer uma interseção dos dados, afinal, o dilema a ser resolvido envolve uma situação onde você vai colidir necessariamente em humanos, se for para acertar uma placa ou um pato não é um dilema, não esse. Beleza, filtrou os dados, agora temos uma colisão e um provável candidato a humano do outro lado, veja que forma e calor é um bom indicativo, mas não completo, você pode considera um radar muito bom que vê a forma com muitos detalhes, mas ainda assim precisamos de confirmação visual e outras técnicas para não se enganar com um Android que está apenas quente por causa de seus sistemas, nesse ponto eu paro de descrever como o carro vai fazer isso, pois estamos entrando no campo de uma tecnologia que não existe para poder resolver o dilema, então não vou saber descrever os passos, afinal, com a tecnologia atual, podemos ter quantos % de certeza que iremos colidir com humanos? 50%? 60%? Se não existe certeza, então não existe dilema a ser resolvido, já presumi que o radar é bom o suficiente para ver formas completas, o que não é verdade hoje, mas tenho que presumir ainda que de “alguma forma”, você vai usar mais informações de outros sistemas para decidir que de fato do outro lado é um humano. Pronto, você fez isso, agora o mesmo nível de certeza que fora do carro é um humano é o de que dentro do carro também é um humano.

            Agora que a parte fácil terminou, você precisa ir nos sistemas de navegação, e fazer a intersecção desses dados com o dado do possível acidente, onde o carro de alguma forma, tem controle da direção, mas é capaz de tomar duas rotas, uma delas em direção ao objeto que você irá colidir, e outra. Beleza, fez isso. Agora precisamos que a outra rota seja fatal para o motorista. Como decidir que essa rota é fatal? Bem, da mesma forma que você tem habilidades para decidir que é um humano na rota de colisão primaria, digamos que você agora também analisa toda a rota de destino, e segundo padrões que nem sei se vão existir, descobre que dado a velocidade do carro, ou sei lá o que, o carro não vai proteger o motorista de acidente fatal, Airbag não vai ser suficiente, ou qualquer outra medida de segurança. Veja que se você não pode determinar que o ocupante do carro vai morrer, não existe dilema a ser resolvido, esse é o dilema afinal.

            Fez tudo isso, e faz uma escolha: O(s) ocupante(s) ou a(s) outra(s) pessoa(s)? Dai para resolver isso você, desenvolvedor dedicado, volta para olhar os sistemas do carro para se algo lhe passou despercebido, é uma escolha de vida ou morte afinal. Dai vê que não se trata de apenas uma possibilidade ínfima desses cenários se cruzarem. Afinal, você teve que assumir que seus radares, sensores etc são bons o suficiente para determinar um humano, mas falharam em se antecipar a qualquer problema, e seu sistema de direção, estava tão convicto que os dados dos sensores eram confiáveis, que não tomou nenhuma medida preventiva (como reduzir velocidade), tinha certeza que aquele caminho naquela velocidade era adequado, dai algo (sei lá o que) acontece e tudo muda, agora o carro me reporta que não só eu vou bater, que foi determinado que vou bater em um humano, mas que sim, eu ainda tenho controle do automóvel, mas para fazer apenas uma unica outra rota que, também fui capaz de determinar que vai matar o(s) ocupante(s) do veiculo, agora tenho que fazer uma escolha? Como um sistema que é primariamente criado para se antecipar a todos os problemas, conhece tão bem os problemas que é capaz de saber que a rota de colisão do veiculo irá ou não causar morte aos ocupantes, ou mesmo a pedrestres, não foi capaz de se antecipar ao problema agora está imerso, pode chegar a uma conclusão dessas (o dilema) e eu confiar nos seus dados? Se todo o conhecimento do carro foi insuficiente até então, que certeza eu realmente dou para a conclusão final dele?

            Para mim, a solução desse dilema é obvia, o carro falhou, está ou esteve errado em relação a alguma coisa, e existe uma chance maior que zero que esteja errado em relação a conclusão final, logo se eu escolher matar o ocupante do carro, tenho uma possibilidade maior de cometer um erro de escolher atingir o obstaculo fora do carro. É como eu disse no outro comentário, o possível humano com obstaculo, precede ao humano como obstaculo certo, dado a natureza improvável do fato e a natureza da (in)capacidade afirmativa do carro de tomar decisões (chegando a ter apenas duas escolhas, ambas fatais), os ocupantes do carro são os únicos que podem ser protegidos, ao invés do “homem sopa”, o manequim fruto de uma campanha, que é feito inteiramente de sopa quente e colocado na beira da estrada para alimentar pessoas famintas. A incerteza final sempre será maior para o objeto no qual vou colidir.

            Por isso, não acredito que exista dilema de morte, a escolha é unica.

            Agora se a pergunta é sobre causar injurias como um todo, temos outro problema em mãos, me pergunto: Como o carro sabe disso, como ele sabe que alguém ia morrer no exemplo anterior?

            A verdade: Ele não sabe, ele vai trabalhar apenas com o que for estatisticamente mais provável, logo nunca vai ter uma escolha dúbia e igualmente ruim para tomar, uma coisa sempre vai ser melhor que outra, mesmo que 0.0001% melhor.

            O problema dos carros elétricos é inteiramente processual. É a lei do menor dano suficiente? É em sua larga maioria a unica escolha que o carro deve ter penso eu.

            O condutor do carro deve ter o poder de causar mais danos a terceiros que a ele ou o carro? Como pedir para atropelar alguém propositalmente ao invés de bater em um poste (e ser salvo pelo Airbag) e estragar o carro ainda mais.

            Acho que nenhuma fabricante vai dar ao motorista a possibilidade de ir contra a lei do menor dano. Com ela, mortes ainda vão acontecer, pois é impossível prever tudo, mas o acidente final, será apenas classificado como acidente, o carro não tinha informações suficientes para tomar qualquer decisão melhor, ou mesmo não tinha nenhuma escolha como qualquer acidante, afinal se pneu explode e o carro sai capotando, o carro não pode escolher salvar ou não alguém, apenas vai atingir quem tiver pela frente.

            Logo, podemos considerar que o carro vai fazer tudo que form possível para evitar o acidante, sobrando assim o que até então era considerado “impossível”, restando ao acaso escolher o final da historia. Mas nunca o carro vai ter que escolher entre dois acidentes fatais, apenas o que estatisticamente causa menor dano, se um dia a tecnologia chegar ao ponto de fazer esse tipo de distinção. Os ocupantes são sempre os humanos mais prováveis da equação.

            ps: desculpa pelo texto grande, estava com tempo agora de manhã xD.

          • Paulo Henrique Duarte

            “Talvez na sua opinião sejam todos burros, mas existem pessoas que neste dilema fariam escolhas diferentes” não é questão de ser burro ou não. Isso é um dilema. Ambas as saídas são insatisfatórias. Nesse caso, “matar ou morrer”. No final, ambas deixam algum conflito a resolver.

          • nayara

            TI acostumou com um mundo binário. Os raríssimos profissionais que conseguem pensar diferente de preto e branco são os que prosperam

          • Petrus Augusto

            “Os raríssimos profissionais que conseguem pensar diferente de preto e branco são os que prosperam”
            Ou chamados de “esquerdosos”… ¬¬

          • Vc esta equivocado, quando vc da de cara com uma pessoa no meio da rua o reflexo natural é tentar desviar, não estou falando de nada “moral”… a grande maioria das pessoas reage dessa forma por reflexo, “obstaculo, desvia!”, se houver tempo suficiente para pensar em dilemas morais, precipícios, etc, vc freia, se não houver tempo, bom, não ha tempo, entre esses dois casos, o reflexo é desviar! AHHAHAHAHAH

          • PugOfWar

            aí vc causa uma colisão múltipla com outros carros, tudo culpa do Marquinhos

          • Cacio Frigerio

            Mais ou menos, os reflexos são treinados. Tem pessoas que agem como você falou (imensa maioria), outras não, eu por exemplo estou no grupo do outras não.

          • Daniel

            Dar a vida pelo outro. Só em raríssimas situações, tão raras que nem imagino uma,nem quero :/

          • nayara

            Uma mãe faz

        • Marks William

          Se uma mãe tiver que chorar, que não seja a minha.

          • nayara

            Se ela não for quem estiver passando na estrada que você defende que seja atropelada

        • ochateador

          O que o carro irá fazer é tomar a decisão menos arriscada e que gere menos dano.

          Imagine você, sua esposa, seus filhos no carro em plena rodovia.
          Tem uma passarela para os pedestres atravessarem a rodovia sem causarem acidentes.
          Um belo dia, um “pedestre que se acha mais importante que as leis/regras/bom-senso” resolve atravessar a rodovia sem usar a passarela.
          Por uma infeliz coincidência é você trafegando na rodovia (a 100 KM/h) e se não parar o veículo esse pedestre será atropelado.

          Qual seria a sua decisão ?

      • Cocainum

        A reação natural automática é frear e desviar (mais a primeira do que a segunda) de um obstáculo, seja uma carreta ou uma bicicleta. Ninguém vai avaliar o risco em um décimo de segundo, nem fazer o cálculo de percentuais de chance de sobrevivência de cada um dos envolvidos.

        • Dan_Marx

          Exato, o motorista vai agir na velocidade de seus reflexos e conforme sua perícia o resto é balela.

        • Samuel

          Por isso não deixo pra tomar a decisão da hora

    • Certíssima a Mercedes.

      E se quiser ir além, na velha história de agradar gregos e troianos gente normal e floquinhos, bota uma chave de configuração, deixa padrão pra preservar os ocupantes, o floquinho que se achar no direito de decidir morrer pra salvar que estiver no caminho que se foda.

      • Rolando

        Boa ideia, quero ver quantas pessoas decidiriam se matar ou matar toda a família ou amigos porque alguém resolveu arriscar e atravessar em um lugar que não deveria ou estava desatenta, e temos ai gente que ao invés de usar uma passarela que está ao lado resolve enfrentar uma via rápida cheia de carros, gente que em uma estrada resolve atravessar justamente em uma curva. Eu não tenho carro mas já vi pessoas que fazem as maiores maluquices porque não tem um pingo de paciência para esperar.

      • nayara

        Hoje com os carros atuais o motorista já tem essa escolha. A tese é a mesma, e a responsabilidade pelos atos também.

    • “…viajando a 180 km/h em perfeita segurança. Saindo de uma curva vem o viadinho do Marquinho em sua Bike de Protesto, andando no meio da rua…”

      Foda-se o Marquinhos….

      https://uploads.disquscdn.com/images/a021ff1f70b34d52d81aea89a52afd4ce59b5518d795c35293cde710fcb10431.gif

      • nayara

        São casos extremos, na grande maioria das vezes seu carro não fará uma curva fechada a velocidade tão alta, dará tempo de reduzir, desviar ou pelo menos dar um alarme pro ciclista ter chance de sair. E se a curva não for tão fechada, dará tempo do carro se preparar.

        De qualquer forma, o motorista não se isentará de responder pelo atropelamento

        • Igor Alves

          Mas se o caro é autônomo, o motorista é isento (não estou falando de legislação, que precisaria ser atualizada).

          • Petrus Augusto

            Não, não é isento.. No momento que você optou por um carro autônomo, você deve ser responsabilizado por todas as ações dele (pois, você o escolheu/comprou, dando aval de tomar decisões por você).

          • Reinaldo Matos

            Depende… Se supormos por exemplo que o dono é um deficiente físico, e que não tem condições de guiar ele mesmo um automóvel, a única alternativa que ele tem seria a de um carro autônomo, ou seja, ele deu o aval para o carro não necessariamente por que quis, mas porque era sua única alternativa..

            Mas isso que estamos falando é apenas um exercício de situações, afinal, carros autônomos até onde sei, não são vendidos comercialmente, e com certeza haverão alterações nas legislações de transito nos países onde esses carros circularem.

          • Petrus Augusto

            É… verdade, vendo por esse lado… Faz todo sentindo.

          • Cacio Frigerio

            Típico caso de não legisladores (eu também não sou), ou que não tem NENHUMA noção de direito falando de algo que desconhecem.

            Sim, legalmente você TEM SIM culpa, você assumiu o RISCO, colocou neste MODO AUTOMATICO. O deficiente tem sim escolha, ele pode NÃO ANDAR DE CARRO. E SIM já existem carros com modos de condução autônomas, como carros da VOLVO, e isso já tem pra lá de dois anos.

          • la_gomes

            E por que as mortes por atropelamento no Brasil devido a carros autônomos (leia-se pessoas dirigindo embriagadas) é crime culposo e nunca doloso?

      • Reinaldo Matos

        Se for aqui no RS, não seja uma vaca…

        https://www.youtube.com/watch?v=C8bHZHUYf-Y

    • nayara

      Desde que você não seja o Marquinho

  • Ezequiel Lorenzatti

    Questões filosóficas a parte,

    Marquinhos é um idiota por pedalar próximo de carros a 180km/h.

    • Ramon de Assis

      Marquinhos é um idiota por estar no meio da rua com a bike. Ele que vá para o acostamento.

    • Arnoud Arnoud Rodrigues

      Só relembrando(pois acredito que todos aqui devem saber) que se você estiver dentro de um carro a 180 km/h e bater numa pessoa é certo que ela morrerá, mas também é certo que o carro sofrerá graves danos. Depois que o Marquinhos virar paçoca quem estiver dentro do carro pode ficar muito ferido ou mesmo morrer devido ao desenrolar da batida(colidir em outros carros, cair num precipício, explodir, etc.)

      Ou seja, CARMAGEDOM(ou GTA) é só um jogo mesmo pessoal!

      • Claro, se velhinha valesse algum ponto na vida real não precisaríamos de INSS… =P

        Eta comparaçãozinha hein … xD

  • Wallacy

    Boa parte desses dilemas são bem estúpidos. A maior parte das variações não tem o menor fundamento na realidade.

    Esse chega perto, mas cai em outro problema: Se o carro sempre escolher terceiros. Pessoas vão propositalmente entrar na frente, se possível com bebês de colo, dos carros para matar seus ocupantes.

    Certo está a Mercedes, carros autônomos são para evitar erros humanos de pilotagem, não experimentos sobre comportamento humano. Ela deve proteger seus ocupantes e simular ao máximo um excelente piloto humano, que tomaria a mesma decisão de auto proteção.

    O carro precisa matar Marquinhos, para que outros saibam que a pista não é lugar de brincadeira e irresponsabilidade.

    Agora voltando ao problema desses testes, um veículo com toda essa “inteligência”, pode muito bem ser equipado com sensores que poderia ver Marquinhos de diversas formas diferentes muito antes de se tornar um perigo, seja com dados de sensores na pista, radares refletindo no guardrail, ou mesmo fazendo tal curva em uma velocidade onde fosse possível fazer parada total se algo aparecer derrepente.

    Na verdade, acredito que todos esses carros sempre se movem em velocidade máxima possível considerando a distância de segurança para parada total até o último elemento visível, bem como um humano também deveria fazer.

    Variações mais complexas são mais propensas a erro que acerto. Se nos limitamos a responder o que o motorista faria estamos bem.

    • Acho que você não entendeu. Na medida do possível ele preservará a vida do condutor e do Marquinhos. Mas SEMPRE existirá uma variável, uma condição que, por mais sensores e linhas de programação que você embarque no carro, fará com que o sistema tenha que ao final, optar por machucar alguém.

      • Wallacy

        Eu entendi,
        Vocês que parecem embutir consciência onde não existe. O caro estará programado para dirigir e evitar todos os obstáculos, em determinado momento ele não vai evitar um e vai bater, simples assim.

        Dizer que o carro tem opções não é verdade, nunca vai ser. Nunca vi uma variação desse experimento mental que não tivéssemos que assumir uma premissa falsa como base. Não existe dilema para ser resolvido.

        E se existisse, como falei, o natural é sempre proteger os ocupantes, pois caso contrário você estaria abrindo brechas para que terceiros matassem os ocupantes propositalmente.

        Quando se envolve situações de perigo, cada um é responsável por se proteger. Pedestres também precisam seguir regras, se não colocam outros em perigo.

        • Eu vejo o dilema de forma bem tranquila e fácil, pois já vivi em ambiente similar.

          Uma linha industrial totalmente automatizada e sem pessoas, NINGUÉM ultrapassa as salas ou faixas demarcadas porque sabe que se o fizer pode ser mutilado ou morrer. Da mesma forma, existem sensores para preservar a vida humana quando algum Marquinho idiota resolve ignorar os trezentos avisos. Normalmente isto salva a vida do infeliz que vai para um psicólogo. Mas, mesmo assim, eventualmente, alguém “fura” as salvaguardas e morre ou se acidenta.

          O que ocorre a partir daí é abrir uma investigação para avaliar se as salvaguardas foram burladas (se sim, de quem é a culpa), se pode criar uma nova salvaguarda para evitar a nova brecha, atualizar o sistema e a vida continua. O sistema nunca será 100%. No máximo 99,9999%

          https://uploads.disquscdn.com/images/5972759ae90058da529c86da9c4fef4fcc86068b556aded6e426acf340fd38da.gif

          • Wallacy

            Viu como não existe dilema? O sistema vai evitar colisões até não ser capaz. Os dados serão usados para evitar colisões futuras, se possível.

            Não existe dilema de vida ou morte ai.

          • kenji

            Porque a máquina do exemplo que ele deu não tem ocupantes.

          • Wallacy

            Porque não existe nenhum exemplo realista, com ou sem ocupantes.

            O que ele demonstrou é a unica maneira viável de se tratar problemas em automação. Você trabalha com todas as possibilidades reais, e quando o inesperado acontece, você intera com os novos dados e continua o processo.

            Use sua criatividade e pense em um exemplo que faça sentido, vai perceber que não vai existir dilema de vida ou morte, a não ser que você assuma premissas falsas.

    • Lucas Timm

      É basicamente tratar os obstáculos como… obstáculos. Não como humanos.

      Tem como desviar e evitar um acidente maior? Sim, desvia.
      Não tem como desviar sem matar os ocupantes? Não desvia.

      • Luiz

        solved

    • Cacio Frigerio

      Eu juro que li seu TEXTÃO, mas não vou me alongar, apenas dizer a você que se os ditos sensores detectassem o perigo iminente, estes seriam a “mãe dinah”, pois iriam prever que uma pessoa iria virar a DIREITA ou a ESQUERDA, sendo á DIREITA = ACIDENTE, a ESQUERDA = NÃO ACIDENTE. E não venha falar que “considerando essa possibilidade é melhor diminuir a velocidade” por que se estiver então passando ao lado de uma fazenda, então é melhor diminuir a velocidade, pois PODE ter uma boi, que PODE estar enfurecido, que PODE passar pela cerca, que PODE estar aberta e ai PODE colidir com o carro.

      Portanto sua argumentação NESTE CASO é inválida, quase todo o resto eu concordo.

  • Andreson

    Se o Marquinhos esta entrando em uma rua cheia de carros é por que ele quer se suicidar esse deve ser o raciocínio.

    • E se os carros puderem evitar matá-lo, evitarão, inclusive parando a pista, até que o inevitável ocorra ou a polícia prenda o Marquinhos.

  • Ricardo

    Marquinhos vai ser antecipar a tudo isso fazendo um textão no Medium e abaixo-assinado no Avaaz contra essa questão. Embora já tenha reservado uma Mercedes com esse recurso.

    • Gaius Baltar

      E eu que queria tanto a volta do Cardoso ao Nerdcast…

  • Manoel Jorge Ribeiro Neto

    Entre eu e Marquinhos + órfãos, a resposta já está clara: Sorry órfãos, mas a minha vida em primeiro lugar! Então, se eu quiser um carro com direção autônoma, ele terá que tomar a mesma decisão que eu tomaria, que é a de salvar quem está no carro.

    Na vida real, esse tipo de dilema será muito difícil de acontecer, pois seguindo as normas de trânsito e adotando direção defensiva já livra um bocado de perigos. Além disso, não é todo dia que a gente dá de cara com ativistas suicidas.

  • Metalmacumba

    Tecnologia, criando problemas que não tínhamos a um tempo atrás 🙂
    Ainda bem, assim partimos da ignorância à luz, ou melhor, da casualidade à algo previsível.

  • CAPIMLIGANTE

    Opinião muito “legal”…. até você descobrir que na verdade junto aos órfãos se encontra seu filho ou (como a galera aki gosta) SUA MÃE (desculpe não sei fazer firulas de formatação) …. Mas pelos comentários… Acredito que mesmo assim não faria diferença…
    Mais um facepalm picard… Mais uma vez me questiono que futuro queremos… Farinha pouca meu pirão primeiro é foda…

    • Carlos Magno GA

      Cara sempre é “meu pirão primeiro”. Imagine você na Dutra, pista central, de passageiros sua esposa e seu filho de 5 meses.

      O seu carro se joga contra a mureta central a 110 km/h por causa de um maluco que não quis usar a passarela.

      Não é Grumari, onde a velocidade máxima é 30 km/h, não tem pardal mas todo mundo anda devagar pra apreciar a vista.

      É a dutra, onde o cara morre embaixo da passarela às 5 da manhã e vira um quebra molas temporário. Quando eu vi o cidadão era uma mancha 2 m x 1 m e tava da espessura de uma pizza com borda de catupiry.

      Você sempre vai prezar a sua vida. Você vai atropelar o assaltante e frear pro cachorro, mesmo sabendo que não vai dar. No japão um cara desviou de um gato e atropelou 35 crianças.

      • O nome disso dentro dos bombeiros/samu é “graxa de asfalto”!
        “O sujeito virou graxa de asfalto!”
        É tão polpificado, somado a sujeira e a borracha que fica parecendo uma graxa velha mesmo!

    • Zé das Covi

      rapaz , se for pra bater em Sua Mae™ , é melhor dar de cara com um poste .

    • Mauro

      Primeiro, se fosse meu filho ele não seria órfão (fato). Segundo, meu filho é educado dentro da moral e do respeito ao próximo, o que inclui seguir as leis e não entrar do nada na frente de um carro autônomo à 180 km/h. E caso faça, se sobreviver, vai aprender a não fazer mais isso. Se o seu filho faz isso, é melhor rever a educação q vc dá pra ele. #FicaaDica.

    • Wallacy

      De um exemplo realista e daí você pode tentar argumentar com ele. Pois essa situação não faz sentido.

      Qualquer situação onde existe tempo para um humano reconhecer terceiros, seria tempo suficiente para o carro simplesmente desviar.

      Estamos falando de situações onde não existe tempo hábil pra nada, matar ou morrer. Quantas dessas existem? Se existir uma, e a resposta for matar os ocupantes. Parabéns, você acaba de trocar a vida de um inocente (quem está dentro do carro) pela de alguém que propositalmente se colocou em risco. Ja que não existe outra forma a não ser proposital de se colocar em risco de forma que a única opção seja vida/morte.

      Duvido que ache um exemplo realista onde a terceira pessoa não seja um suicida. Todas as outras são mitigadas por direção defensiva.

  • Tatsumak

    Então é seguindo o pensamento do engenheiro, e não um calculo complexo de algorítimos, estatísticas e uma analise de tudo ao seu redor?

    Eu quero saber em full-auto o que ela realmente faz por conta e não o que esta programada pra fazer. (contraditório?)

    • Wallacy

      Piloto automático e inteligência artificial são coisas distintas. Nada de contraditório. Faz parte do sistema autônomo desviar ao invés de bater, mas o pessoal tá forçando a barra com uma situação onde não existe como não bater. Daí se perguntar o que o carro vai fazer.

      Acho tudo bem bobo, não é como se o carro fosse saber de alguma coisa. Ele apenas vai tentar não bater em nada o tempo todo, e se bater é porque não conseguiu. Esse negócio de decidir pular o desfiladeiro é ilusão de aluno de aula de filosofia.

      • Tatsumak

        No caso a contradição seria minha:

        “Eu quero saber em full-auto o que ela realmente faz por conta e não o que esta programada pra fazer.”

        Independente do caso, existiria uma programação feita por alguém. Melhorando a pergunta, em uma simulação de dez casos parecidos com o da matéria, quais seriam as escolhas? Pergunto se os cálculos e variáveis o levariam para a mesma parede, pessoa ou precipício. Ou a pessoa que programou colocou sempre pra jogar para a esquerda…

        • Wallacy

          Não existe escolha. Simples assim. O carro vai tentar tudo que está programando pra evitar colisões. Se não conseguir vai bater simples assim.

          Essa coisa de pular matar o ocupante do carro não existe. Não é como se o carro soubesse da alternativa, não existe como programar o inesperado.

          • Tatsumak

            Binariamente falando, ele teria que chegar em um resultado com cálculos. Em testes reais, quais seriam os resultados obtidos? Essa é a questão, e a resposta é fruto de cálculos ou o simples fato do programador ter colocado a sintaxe (se chegar nesse ponto, se joga pra lá ou pra cá)?

            Não existe uma escolha nesse caso, devido a artificialidade da maquina, mas chegaríamos a um resultado no fim das contas, consciente ou não dos seus atos. No fim, o que levaria a esse resultado “0” ou “1” e, em testes, qual seria a maior porcentagem dentro desses resultados?

          • Wallacy

            Óbvio que é cálculo. O carro vai olhar na lista de opções qual dela é a mais adequada: Tem como desviar, calcular distância velocidade etc. Tem como freiar? Distância, tempo, etc….

            Não existe programação orientada a eventos simulados, só a dados coletados. O Machine Learning, apenas automatiza isso.

  • Mauro

    Certíssimo! Até porque, o que diabos o infeliz do Marquinhos pretende entrando na frente de um Tesla à 180 km/h a não ser cometer suicídio? Foda-se o Marquinhos, deveria estar trabalhando. Ninguém paga tanto dinheiro em um carro pra virar herói do Marquinhos…

  • Marcoscs

    tradução da tradução da tradução: foda-se o Marquinho.

  • Korben Dallas
  • Ramon de Assis

    Se Marquinhos está de bicicleta no meio de uma highway, não se desloca para o acostamento… Sinto muito Marquinhos! Darwin wins!

  • Tradução da Tradução da Tradução: Você adquiriu um produto, portanto temos uma relação CLIENTE-FORNECEDOR. Faremos o possível para preservar sua vida e a de sua família ao ponto de não sermos processados por acidentes. O Marquinho, zé-ruela que não é o nosso cliente, que se dane.

    PS: E mais uma vez não… Salientamos que a estrela não é uma mira.

  • Garrete Alves Reis

    A IA do carro deveria aprender com o motorista, à la Matrix, e agir como ele agiria. Assim, num caso desses, a justiça julgaria o motorista pelo comportamento do carro, pois este emula o motorista. Daria um bom episódio para Black Mirror!!

  • Será assim:

    IF (Colisão > DanoNoCarro)
    {
    Goto salvaguardas
    }
    ELSE
    {
    Continue
    }

    E sim, já previram isto a muito tempo (apesar que o filme é uma bomba):

    https://www.youtube.com/watch?v=ur2wx9wDL70

  • Legend of Mana

    eu não desviaria de órfãos só para constar, nem de mulheres nem de velhinhas, fhoda-se quem fica dormindo no meio da rua.
    uma coisa é vc passar num buraco e perder o controle e ter que decidir pelo ciclista,crianças ou vc, outra coisa é o ciclista testando a seleção natural andando no meio duma dutra da vida.

  • JackChanBiPOLAR

    Tudo se resolve com um acento ejetável + um paraquedas… Próximo

    • OnoSendai

      Dentro de um túnel será uma beleza…

  • Torquato Pit Bull

    Se não for como a Mercedes quer o que seria das novelas? Quando um vilão quiser matar um bonzinho atropelado. Não iria conseguir.

  • Samarone Lopes

    Eu acho que vai ser muito legal quando você entrar no carro e ele perguntar:
    – “Qual a prioridade para hoje?”
    Porque além de decidir se vai salvar os ocupantes ainda têm a decisão de priorar quais dos ocupantes… o da esquerda ou os da direito, quando estiver prestes a bater em um caminhão de frente? A se pensar…

    • Daniel

      Ai voce melhorou muito o dilema. Esse sim merece um pouco mais de atenção, e nem responderia de imediato, e com toda certeza ele variaria de acordo com quem esta no carro comigo…

  • achsanos

    Interessante é que já se parte do pressuposto de que se vai saber tudo sobre o Marquinhos de antemão. A menos que vivamos num mundo ultrabacanamente conectado, se ele for um órfão com câncer ou um assaltante fugindo de um latrocínio, provavelmente só saberíamos – e reagiríamos empaticamente de acordo, huehue – depois do eventual atropelamento. Sendo assim, vale pro carro o que vale pra nós: tenta tirar, se não der, antes ele do que eu.

    • Anderson Fernandes

      Justamente, o veículo sempre terá mais dados/certeza sobre os ocupantes do carro, 100% de certeza de um ser humano dentro do carro, 99,99% de certeza de 3 pessoas na rua, aliás quanto mais pessoas menos chance de ter certeza se são mesmo pessoas, além da questão da real intenção destas pessoas.

    • Wallacy

      Pior, parte do pressuposto que os sistemas do carro evoluíram a ponto de saber que Marquinhos é um ser humano, mas não para fazer uma curva em velocidade relativa ao tempo de parada até a maior distancia que seus sensores podem chegar.

      Se o carro só tiver 50 metros de visibilidade de sua posição até a curva, vai estar em velocidade relativa, e vai parar a tempo assim que Marquinhos aparecer do outro lado. A unica chance que acontecer um acidente é se Marquinhos ou outro intencionalmente tentar enganar a maquina e se colocar propositalmente em perigo.

      Se você presume que o sensores do carro podem falhar, não deve presumir que ele vai calcular no meio de centenas de possibilidade que só existe a change de cair no desfiladeiro ou matar Marquinhos, como se ele soubesse que Marquinhos é um humano e não um boneco preso a uma bicicleta.

    • Bob

      Melhor ser julgado por 7 do quer ser carregado por 6.

  • Alvaro Carneiro

    Quando carros autonomos se consolidarem no mercado, será uma nova era de processos judiciais.

  • Dan_Marx

    Agora que a Mercedes tomou posição nesse dilema que perdura aqui no MB eu tenho um novo: Marquinho é um assaltante que quer parar seu carro e ele sabe que esse carro vai frear para obedecer sua programação, assim deixando o motorista que dormia no banco de trás totalmente vulnerável (eu imagino quanto tempo vagabundo vai demorar pra armar um esquema desse).
    Agora nosso novo dilema, eu quero um carro que vai me entregar de mãos beijadas pro vagabundo?

    • Alvaro Carneiro

      Excelente questão. Este problema e outras N possibilidades… tem tanta merda que pode dar.

      E se não for um assaltante? E se for um policial em uma blitz que se joga na frente do seu carro, como já vi tantas vezes na minha época de HueZil ?

      Atropela o policia? Atropela o assaltante?

      KK

      mercedes nao resolveu nada.

      • Wallacy

        Mas o ponto não é sobre o carro atropelar ou não alguém, e sim sobre ele só ter a escolha de sacrificar o ocupante ao invés de terceiros.

        Se alguém entra na frente do carro eu posso desviar. Se alguém com uniforme e carro de policia me pede para parar eu paro, como qualquer pessoa faria. Automação e inteligência são coisas distintas.

        • OverlordBR

          Mas o ponto não é sobre o carro atropelar ou não alguém, e sim sobre ele
          só ter a escolha de sacrificar o ocupante ao invés de terceiros.

          Ué?
          Mas a questão “atropelar ou não alguém” está inerente à inicial de “escolher de sacrificar o ocupante ao invés de terceiros”.

          E os cenários apresentados, tanto o do ciclista mané quanto os do assaltante e do policial, são só 3 variantes de uma míriade de cenários possíveis (note: improvável é DIFERENTE de impossível) da questão inicial.

          • Wallacy

            Nem todo atropelamento causa morte.

            E impossível, nada é.

          • OverlordBR

            Nem todo atropelamento causa morte.

            Assim como nem todo acidente de carro. 😉
            Até porque a pessoa dentro do carro está mais protegida que o objeto a ser atropelado.

            Percebeu que, querendo ou não, você acaba caindo em um dilema… rsrsrs

          • Wallacy

            Não, pois o dilema é baseado na certeza de morte. Não de injúrias.

            Presume que já foi descartado a possibilidade de injúrias não fatais.

      • Daniel

        Policia com certeza não iria se jogar na frente de um carro automatico

      • Dan_Marx

        Sim, digamos que a Mercedes deu um passo no longo caminho do aprimoramento dessa tecnologia, particularmente acho que esse aprimoramento poderia começar com veiculos de carga médios até estar bem refinada, mas pelo jeito já estamos encaminhados a pulverização dela, espero que não existam muitos casos negativos nesse caminho de forma que atrapalhe ou barre sua implementação.

    • Wallacy

      Essa é a unica questão de carros autônomos. Não dilemas de vida ou morte. Acho que a legislação vigente de cada País poderá adotar um comportamento padrão setorizado, e o motorista por livre escolha poderá decidir de outra forma, ou seja, se o carro estiver parando o motorista fala: Atropela e o carro continua, e você poderá responder por homicidio culposo ou legitima defesa após investigação (como é/deveria ser feito atualmente).

      Pegue o exemplo de um trem, ao longo da historia varios trens eram parados para assalto. Mesmo com toda a automação atual a regra é: Não pare, a não ser que isso coloque em risco a integridade do trem e seus ocupantes.

      Quem morre por acidade de trem hoje, é culpado, pois sabe ou deveria saber que ele não vai parar. Isso não significa que é impossível parar trens, um policial poderá solicitar a parada usando de algum procedimento padrão, o motorista após confirmação (visual, radio etc) ira acionar as rotinas de parada.

      Pode ser que o padrão de carros forte seja nunca parar, nem para alguem uniformizado. Já carros de passeio só parar em cenários específicos (forças de segurança). Pode ser que até mesmo para policiais ele não pare, pois qual o motivo do policial parar um carro autonomo? Se ele tem uma boa razão um mandado de segurança junto a uma central deve ser o suficiente para o carro levar o cara para a policia diretamente.

      Por via das duvidas, basta seguir o que é “normal”, evite qualquer colisão, pare para humanos quando for inevitável, mas se ocupante mandar ir com tudo… bem, vai com tudo. O carro apenas vai automatizar o que é comum, a responsabilidade deverá ser do (quase)motorista.

      • Dan_Marx

        Eu entendo quando vc diz que podemos retomar o controle do carro (e fazer um favor pra humanidade aleijando o bandido), só que meu questionamento é justamente sobre aquele momento em que não teremos tempo de reassumir o controle, por exemplo quando tirarmos um cochilo.
        Lembrando que eu não aprofundei a questão, como o criminoso vai saber que estamos no modo autônomo? Esse é um problema de tecnologia ou de segurança pública? Poderemos fugir de taxistas furiosos com Uber querendo detonar meu carro preto? e finalmente…os defensores dos direitos humanos vão fazer coro pra barrar a tecnologia que aleija bandidos e salva nossas vidas? (apesar que essa eu já sei a resposta).

      • PugOfWar

        pior que já vi atropelamento por trem, a mulher devia estar muito, mas muito distraída pra não ver aquela massa barulhenta se movimentando a uns 20km/h

  • Convidado

    Prevejo bonecas inflaveis sendo jogadas da passarelas nos carros

  • Sander Manzoli

    Tem que morrer o culpado, se for ossível determinar… cliclista numa pista onde carros passam a 180? Adeus Marquinhos, seu erro não pode determinar a morte de quem não errou. Andou onde não deveria, na beira do precipício, sabendo dos riscos, errou, caiu, morreu. É a vida.

    • Daniel

      Errou caiu, morreu kkk

  • arnoanderson

    Vai ser algo assim então:

    1ª Lei: Uma Mercedes não pode ferir o seu proprietário ou, por inação, permitir que o seu proprietário sofra algum mal. //(Chuuupa, Porsche!!)
    2ª Lei: Uma Mercedes deve obedecer as ordens que lhe sejam dadas pelo seu feliz proprietário exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
    3ª Lei: Uma Mercedes deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.
    4º Lei: Se for para fazer uma mãe chorar, que jamais seja a virtuosa mãe do proprietário.

    • OnoSendai

      0ª Lei: Uma Mercedes não pode denegrir a marca Mercedes ou, por inação, permitir que a marca seja denegrida.

    • PugOfWar

      vendo assim, a Mercedes vai tentar não só salvar seu proprietário mas também a própria existência, então Marquinhos vai se ferrar

  • Caio Fraga da Luz

    Na minha opinião o dono do carro deveria escolher as diretrizes do sistema quanto a dilemas morais e ser posteriormente responsabilizado por isso. Não é tão difícil, não atravanca o desenvolvimento tecnológico e acaba com essa discussão vazia sobre “dilemas morais” em veículos autônomos.

  • Samuel

    Aquele IF que vai ferrar a sua vida

  • Carlos Vega

    Os carros autônomos vão salvar vidas na verdade. Quantas vezes não lemos que algum trabalhador que estava sinalizando a estrada foi atropelado? Ou algum acidente na estrada que veio algum caminhão depois e não conseguiu frear na hora? Com o carro inteligente, essa informação vai ser recebida antes e esses acidentes vão ser coisa do passado. Agora, quanto as malucos que gostam de atravessar rodovias nem Darwin salva.

  • Julio Alvarez

    Exemplo sem noção. Carros autônomos, assim como motoristas responsáveis, devem seguir as condições das estradas. Não faz sentido estar em uma estrada a 180km/h com um penhasco sem guard rail e sem visibilidade das curvas para antecipar um ciclista se aproximado. Resumindo, os Teslas estariam em uma velocidade menor neste trecho.

    • The xD

      1 – Se lá haviam 100% de carros autônomos, o mínimo esperado é eles estejam trocando informações da pista, como isso é um futuro distante, é provável que na pista tenham outros tipos de sensores que permitam o carro andar com segurança à 180 km/h;

      2 – Se o carro está a 180 km/h, não vai ser o guard- rail que vai impedir o acidente;

      3 – Sem noção é o Marquinho de andar em uma rodovia com limite de 180 km/h na faixa dos carros.Como já vi algumas pessoas malucas o suficiente para andar de bicicleta ou de lambreta nas faixas central ou da esquerda em rodovias, a história do Marquinho é aceitável.

      4 – Essa história do pobre Marquinho não muda em nada o objetivo da matéria…xD

      • Julio Alvarez

        Muda sim, essa matéria é irrelevante. Musk & Cia nunca prometeram viagens mais rápidas com carros autônomos, e sim viagens mais seguras. Portanto a faz parte do software dos carros antecipar qual é a velocidade segura durante a viagem. 180km/h está muito acima do limite de qualquer estrada no mundo, tirando as Autobahn alemãs. Se o Marquinho atravessar de bicicleta uma Autobahn, o Tesla vai tentar frear e desviar, dentro do limite possível, como qualquer motorista. Não tem a fantasia de Asimov aqui.

        • The xD

          O que mais faz as rodovias terem limites de velocidade é ou estradas mal projetadas ou o tempo de resposta dos seres humanos (no caso do Brasil os 2). Se no futuro houver rodovias ou ao menos pistas reservadas apenas para carros autônomos, o limite poderia ser aumentado sim para 180 km/h ou mais, já que estes carros apresentam um tempo de resposta muito menor que o de seres humanos.

          Se a questão é ser realista, esses dias presenciei uma situação onde o pedestre desatento resolveu atravessar uma rua de limite de 60 km/h, nesse momento estava vindo um carro. Ali se o motorista tentasse ir para a esquerda iria dar de frente com outro carro, para a direita acertaria os carros estacionados, a única reação do motorista foi meter o pé no freio, infelizmente foi impossível evitar o atropelamento. Nesse caso o motorista não tinha muito o que fazer.

          Agora se fosse o carro autônomo, uma decisão poderia ser tentar se esfregar nos carros estacionados como forma de aumentar a desaceleração do veículo, nesse caso talvez fosse possível evitar o atropelamento, mas aumentaria o risco de ferir o motorista do carro.

          Uma outra situação possível: se o pobre Marquinho e seus colegas estavam aproveitando o belo dia de sol para andar no acostamento da rodovia, o motorista estava feliz com seu tesla a 80km/h pouco antes da curva onde se encontravam os ciclistas. A poucos metros antes estoura um pneu do Tesla, causando a perda quase que total do controle do veículo, o carro poderia ao menos tentar se manter na borda do acostamento, fazendo um strike de ciclistas, ou jogar o carro para cima das árvores após o acostamento.

          Aí que entra a questão, seria mais justo salvar o motorista que comprou o carro ou salvar os ciclistas que eram inocentes nessa situação?

          • Wallacy

            Mas você concorda que nesse mesma situação, se o carro é capaz de diferenciar todos esses elementos (inclusive saber que na outra ponta existe humanos como obstáculos), ele, por questão de precedencia simples, sabia com plena antecedência de qual melhor velocidade para se fazer na curva caso Marquinho ou amigos resolvam pular na frente do carro, seria capaz de ver os mesmos fazendo esse movimento muito antes (existe padrões característicos), e claro, também saberia o estado de seus pneus, status da pressão etc… Tudo já estaria estatisticamente sobre controle.

            Nessa hora, se qualquer coisa aleatoria, como um tiro no pneu, faça o carro perder o controle, dificilmente qualquer escolha além de salvar o motorista é aceitável, já que, como disse a Mercedes, você não sabe o que vai acontecer com Marquinhos e outros após. Marquinos pode ser atingido por destroços da mesma forma, ser cardiaco e morrer de susto, qualquer coisa.

            Quando traçamos cenários “sem ganho”, onde um vai morrer em detrimento de outro, não existe por definição uma resposta correta, então, por questão de ordem, salvar o unico que você tem 100% absoluta que é humano e não causou o acidente de proposito (Marquinhos poderia ter dado o tiro).

            Além de que, se assumimos que o carro falhou ao medir o estado da qualidade dos pneus (considerado o cenário de explosão inesperada do pneu), ou não foi capaz de ver o detrito na estrada que causaria a explosão (um pneu não estoura facilmente, vale lembrar), então que certeza damos ao fato do carro ter detectado 1 ou mais humanos a beira da estrada? Não poderia ser manequins de estrada?

            Se estamos falando apenas de colisão, o carro vai, e deve sempre tentar a colisão com menor quantidade de danos para todos os envolvidos, (se bater na arvore vai manter o motorista seguro, então que seja), seu exemplo de usar o atrito dos carros ao lado também é ótimo. Mas quando falamos de situações de vida ou morte, a unica escolha 100% segura de salvar um humano é escolher os ocupantes do carro, escolher diferente, é abrir espaço para as falhas de detecção que são assumidas igualmente as falhas de medidas preventivas do carro em relação a outros aspectos do acidente.

            É como um colega comentou para outros ambientes que existe automação. Quando o inesperado acontece, você coleta os dados, vê o que poderia ter feito para evitar a situação como um todo, atualiza o sistema, e a vida continua. Acidentes vão acontecer.

            Fora que…. Se o carro tem capacidade de mudar sua rota em situações tão extremas, é difícil acreditar que só sobrou duas escolhas para o mesmo. O natural em acidentes é não ter opções.

            No mais, você foi a pessoa que deu o melhor exemplo até agora.

          • The xD

            Um acidente só ocorre se houver um conjunto de fatores ao mesmo tempo (no meu exemplo o pneu estourando, o carro no meio da curva, o Marquinho no lugar e hora errados), se o pneu não estourasse o carro seguiria normalmente, se o Marquinho não estivesse lá o carro conseguiria parar no limiar do acostamento, e sem o carro o Marquinho estaria curtindo o passeio dele).

            No caso do meu exemplo, imagino que o caso mais real seria um tiro no pneu, se o pneu estivesse já ruim concordo que o sistema teria detectado a anomalia.

            Nos casos dos acidentes, imagino situações assim, alguma falha repentina de uma parte crítica do carro, algum outro veículo ou objeto saindo de um local como alguma garagem, nesse caso o Tesla teria a visão obstruída pela parede e só veria o carro talvez a uma distância muito curta para evitar algum acidente.

            O que eu vejo dessa discussão toda é tentar colocar até que ponto o carro autônomo deveria ser “egoísta” e sempre se salvar em detrimento aos outros. Porém eu concordo com você e com a decisão da Mercedez do carro sempre ser “egoísta” visto que o oposto poderia causar mais desastre do que evitar…xD

  • HiagoHenrique

    Esse dilema é bem capitain obvious, mas alguém tinha que ter coragem de ser direto.

  • "Seu Tesla tem que decidir entre encacetar o Marquinho ou alterar a direção no meio da curva, caindo em um precipício."

    Assim fica fácil decidir. O seu exemplo de um outro post, com órfãos e pandas, era mais emocionante.

  • OverlordBR

    Acho que, no final, a IA será imparcial e escolherá a opção mais justa: matar todos os humanos envolvidos na cena.

    A Skynet já faz isto perfeitamente!

  • Tom

    Deixar o carro matar humanos para salvar o dono não fere a primeira lei da robótica?

    • PugOfWar

      se fosse a 1ª lei pura, depende da quantidade de pessoas no carro, se tiver duas, 2>1, então salva os ocupantes, mesma coisa o contrário, o cenário fica nebuloso quando é 1 = 1, pelos exemplos dados nos livros provavelmente travaria, matando tanto o motorista quanto o transeunte.

  • Lui Spin

    Para mim não tem dilema nenhum.

    O carro deve sempre salvar a vida de seus ocupantes. Cada um com os seus problemas.

    Se fosse eu dirigindo, iria fazer de tudo para salvar a minha vida, e a da minha família, não me importando nem um pouco com os demais.

    Ora, se eu morrer ninguém vai cuidar dos meus filhos. No máximo que vão fazer é uma reportagem na EPTV, e um agradecimento no Facebook.

  • Ruan Rodrigo
  • PugOfWar

    na minha opinião temos que ir na casa do Marquinhos e dar um cacete preventivo nele, assim evitamos qqer dilema moral

  • Carlos Ferreira

    Kkkkk, O vídeo informativo do Clarkson! Esse malucos do top gear(ex’s) são palhaços. Espero que tenham liberdade no novo programa da Amazon.

  • Marcos M.

    O Dilema fica ainda mais interessante se considerarmos as três leis da robótica para analisar o comportamento do carro:

    1) A primeira lei não deixaria que nenhum dos dois fosse atropelado. Se o carro fosse programado dessa maneira, ele provavelmente entraria em colapso pois o dilema não tem solução em função da primeira lei, uma vez que para salvar um, ele teria de matar o outro, necessariamente.

    2) A segunda lei diz que o robô não pode aceitar ordens ou comandos de humanos que entrem em conflito com a primeira lei. O que significa que além de entrar em colapso, ele não lhe permitiria tomar controle do carro e atropelar o marquinho, kkkkk.

    Acho que esse é um trabalho para a Dra. Susan Calvin.

  • Andre

    Imagino que o dilema só existe se o carro estiver com apenas uma pessoa. Se tiver com mais de uma é natural sacrificar o ciclista. Menor número de mortes. Tô certo?

Aproveite nossos cupons de desconto:

Cupom de desconto Locaweb, Cupom de desconto HP, Cupom de desconto Descomplica, Cupom de desconto Nuuvem, Cupom de desconto CVC, Cupom de desconto Asus, Cupom de desconto World Tennis