特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

点击上方“3D视觉工坊”,选择“星标”

干货第一时间送达

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

作者:黄浴

链接:https://zhuanlan.zhihu.com/p/136179627

本文转载自知乎,作者已授权,未经许可请勿二次转载。

Scaled ML Conference今年2月26-27召开,特斯拉AI高级总监Andrej Karpathy在会上给了一个报告,其中一些内容在去年6月ICML也讲过了。下面以网上的视频截屏作为笔记,我稍稍注释一下。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

报告纲要

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

特斯拉30亿英里的驾驶数据,无人匹敌。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

前不久提供的导航功能(高速闸口),能自动换道。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

还有停车场的手机召唤。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这是最近实现的L2.5功能。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

三个短视频,介绍行人AEB。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这里展示了特斯拉的全自动驾驶的视频,看到上下高速。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这里提了一下谷歌维摩,解释为什么人家那么早就开始了,因为有激光雷达,高清地图。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这是维摩的自动驾驶展示,强调特斯拉是纯视觉技术。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这里就是视觉的任务。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

展示全自动驾驶视频中的视觉技术。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

为强调视觉的难度,特意拿stop sign detection为例子,展示各种困难。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

介绍Data Engine的平台,以前ICML也讲过,同时强调特斯拉的shadow mode。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这里举例,上面是遮挡,下面是右转弯不需要遵守stop。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

评估测度。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

介绍hydranet,以前就是多任务训练(multi task learning),给了个名字。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

重新介绍operation vacation,举例police alert light检测,称为landmark task,landmark定义为example of prototype。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

举例HydraNet,检测运动目标、道路边缘和道路线。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这是其中Road Edge网络输出。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这是Occupancy tracker,将道路边缘连接成空区域,可用于smart summon。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

过了两年,重提SW 2.0,不过这里是用于泊车场。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

提出BEV Net,即鸟瞰视图的预测,backbone共享,多个head。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

这里介绍BEV Net结果好于2D边缘预测的方法。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

应用视频:停车场红色边缘,绿色是分界。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

另外一个应用视频:停车场手机召唤。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

强调深度图,伪激光雷达,3D目标检测。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

介绍自己的非监督学习深度图预测,还是强调伪激光雷达的效果。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

特斯拉有最多的视频数据。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

最后,招聘AI的人才,招聘精英。

推荐阅读

吐血整理|3D视觉系统化学习路线

那些精贵的3D视觉系统学习资源总结(附书籍、网址与****)

超全的3D视觉数据集汇总

大盘点|6D姿态估计算法汇总(上)

大盘点|6D姿态估计算法汇总(下)

机器人抓取汇总|涉及目标检测、分割、姿态识别、抓取点检测、路径规划

汇总|3D点云目标检测算法

汇总|3D人脸重建算法

那些年,我们一起刷过的计算机视觉比赛

总结|深度学习实现缺陷检测

深度学习在3-D环境重建中的应用

汇总|医学图像分析领域论文

大盘点|OCR算法汇总

重磅!3DCVer-学术论文写作投稿 交流群已成立

扫码添加小助手微信,可申请加入3D视觉工坊-学术论文写作与投稿 微信交流群,旨在交流顶会(ICRA/IROS/ROBIO/CVPR/ICCV/ECCV等)、顶刊(IJCV/TPAMI/TIP等)、SCI、EI等写作与投稿事宜。

同时也可申请加入我们的细分方向交流群,目前主要有3D视觉CV&深度学习SLAM三维重建点云后处理自动驾驶、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流等微信群,请扫描下面微信号加群,备注:”研究方向+学校/公司+昵称“,例如:”3D视觉 + 上海交大 + 静静“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进去相关微信群。原创投稿也请联系。

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

▲长按加微信群或投稿

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

▲长按关注公众号

3D视觉从入门到精通知识星球:针对3D视觉领域的知识点汇总、入门进阶学习路线、最新paper分享、疑问解答四个方面进行深耕,更有各类大厂的算法工程人员进行技术指导。与此同时,星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息,打造成集技术与就业为一体的铁杆粉丝聚集区,近1000+星球成员为创造更好的AI世界共同进步,知识星球入口:

学习3D视觉核心技术,扫描查看介绍,3天内无条件退款

特斯拉AI高级总监Andrej Karpathy详解Tesla纯视觉自动驾驶方案

 圈里有高质量教程资料、可答疑解惑、助你高效解决问题