소식

Jul 11, 2023

억만장자, 테슬라 오토파일럿 비난

어제 라이브 스트리밍된 행사에서 소프트웨어 억만장자이자 Tesla Motors의 자율주행 기술에 대한 맹렬한 비판자인 Dan O'Dowd는 Tesla Motors의 자율주행 기술을 지지하는 투자 은행가인 Ross Gerber에 대해 토론했습니다.

어제 라이브 스트리밍된 행사에서 소프트웨어 억만장자이자 Tesla Motors의 자율주행 기술에 대한 맹렬한 비판자인 Dan O'Dowd는 회사를 후원하는 투자 은행가인 Ross Gerber에 대해 토론했습니다. 진정한 도전은 두 사람이 Tesla Model S를 타고 완전 자율 주행(FSD) 소프트웨어를 테스트했을 때 대화가 끝난 후 나타났습니다. 지원 기능은 회사에서 Autopilot 및 Advanced Autopilot이라고 부르는 기능입니다. O'Dowd가 EV 제조업체에 대해 실시하는 FSD 조사는 과장된 FSD 약속에 대한 Tesla 주주 소송, FSD 판촉 이벤트의 위조에 대한 내부 주장, 최근 회사 데이터 유출을 포함하여 최근 일련의 노크 중 가장 최근의 것입니다. 여기에는 수천 건의 FSD 고객 불만 사항이 포함됩니다.

어제 실시간 스트리밍된 행사에서 O'Dowd는 FSD가 이름에서 알 수 있는 일을 하지 않으며, 하는 일은 생명을 위험에 빠뜨릴 만큼 심각한 일을 하고 있다고 말했습니다. 거버는 동의하지 않았습니다. 그는 그것을 학생 운전자에 비유했고, 운전석에 있는 인간을 운전 강사에 비유했습니다.

운전석에 있는 Ross Gerber와 산탄총을 타고 있는 Dan O'Dowd는 완전 자율 주행 소프트웨어를 실행하는 Tesla Model S가 정지 신호를 지나가는 모습을 지켜봅니다.The Dawn Project

테스트에서 Gerber는 운전대를 잡고 O'Dowd는 산탄총을 탔으며 캘리포니아주 산타바바라 주변을 운전하거나 Gerber의 도움을 받아 운전했습니다. 팀이 온라인에 게시한 비디오에서 그들은 도로, 다차선 고속도로, 보행자가 있는 교차 구역을 다루었습니다. 어느 순간 그들은 소방차를 지나갔고, 자동차의 소프트웨어는 이를 단순한 트럭으로 착각했습니다. 하지만 위험에 처한 사람은 아무도 없었습니다. 종종 자동차는 인간 운전자가 할 수 있는 것보다 더 세게 멈췄습니다. 그리고 한번은 정지 신호를 켰습니다.

즉, FSD가 운전하는 동안 잠들고 싶지는 않습니다. 그리고 O'Dowd의 말을 듣는다면 차에 FSD가 있는 것을 전혀 원하지 않을 것입니다.

O'Dowd는 Tesla 자동차를 좋아하지만 소프트웨어는 좋아하지 않는다고 말합니다. 그는 2010년에 Tesla Roadster를 구입했는데, 그때는 Tesla Roadster가 유일한 EV였으며 지금까지 다른 차를 운전해본 적이 없습니다. 그는 2012년에 그의 아내에게 Tesla Model S를 사주었고 그녀는 여전히 다른 차를 운전하지 않습니다.

“우리는 수십 개의 버그를 보고했는데 그들은 고칠 수 없거나 고칠 생각이 없습니다. 그렇지 않다면 그것은 범죄입니다. '할 수 없다'면 그다지 좋지 않습니다.” —댄 오다우드(Dawn Project)

그는 초기에 AutoPilot으로 알려진 회사의 자율 주행 시스템에 대해 들어봤지만 한번도 사용해 본 적이 없습니다. 그의 로드스터는 소프트웨어를 실행할 수 없었습니다. 그는 소프트웨어가 사고에 연루되었다는 사실을 알고 나서야 주목을 받았습니다. 2021년에 그는 조사를 위해 비영리 단체인 Dawn Project를 시작했고 소프트웨어에서 많은 버그를 발견했습니다. Dowd는 New York Times에 광고를 게재하고 Super Bowl 기간 동안 광고를 게재하여 연구 결과를 발표했습니다. 그는 심지어 미국 상원을 위한 단일 이슈 캠페인을 가지고 놀았습니다.

부분적으로 그는 업무상 중요한 응용 프로그램에서 신뢰할 수 없는 소프트웨어를 사용하는 것에 대해 불쾌감을 느꼈습니다. 그러나 그의 회사는 소프트웨어 안정성을 전문으로 하고 있으며 이로 인해 그 주제를 홍보하는 데 관심이 있다는 점에 유의하십시오.

우리는 6월 중순에 O'Dowd가 라이브 스트리밍을 준비하고 있을 때 그를 만났습니다.

IEEE Spectrum: 무엇을 시작하게 되었나요?

Dan O'Dowd의 Dawn Project는 Tesla의 완전 자율 주행 소프트웨어에서 다양한 버그를 발견했습니다.

댄 오다우드: 2020년 말에 [Tesla Motors]는 베타 사이트를 만들고 100명의 Tesla 팬을 데리고 시험해 보라고 말했습니다. 그리고 그들은 그렇게 했고, 정말 나쁜 일을 많이 했습니다. 빨간불이 켜졌어. 하지만 테슬라는 문제를 해결하기는커녕 테스트 대상을 1000명으로 확대했다. 그리고 이제는 많은 사람들이 그것을 갖고 있고, 자동차에 카메라를 장착하고 온라인에 올려 놓았습니다. 결과는 정말 끔찍했습니다. 벽이나 도랑으로 달려가려고 했습니다. 2021년쯤, 중반쯤에는 시장에 나와서는 안 될 것 같다는 생각이 들었습니다.

그때 Dawn Project를 설립하셨죠. 연구에서 발견한 내용의 예를 들어주실 수 있나요?