Как да мамят самоуправляващи се автомобили (и не само тях)

мамят

Сега те активно обсъждат самоуправляващите се автомобили - колко по-добри или по-лоши са от конвенционалните превозни средства, как ще променят бъдещето и, разбира се, колко безопасни са. Някои подхождат към това от страна на проблема с количката: казват, кой знае как ще се държи колата в критична ситуация, когато жертвите не могат да бъдат избегнати? Но има още един интересен аспект за безопасността на безпилотните самолети: какво ще стане, ако колата може да бъде умишлено измамена? Какво ще заплаши на пътя? Ще обясня по-подробно сега.

Обществото на автомобилните инженери (SAE) идентифицира 6 нива на автоматизация на автомобила:

Ниво 0: няма автоматизация

1-во ниво: изисква се участие на водача

2-ро ниво: частична автоматизация на шофирането

Ниво 3: автомобилът се справя сам със задачата, но може да поиска участието на водача

4-ниво: висока степен на автоматизация

Ниво 5: пълна автоматизация

може бъде

Струва ни се, че тук и отляво, и отдясно е изобразена панда, но мрежата GoogLeNet прави правилната снимка за гибон и е абсолютно сигурна в това.

Трето, можете да създадете състезателни примери, които могат да заблудят не една, а няколко мрежи наведнъж, дори ако са подредени по различен начин. Тоест, подобни „оптични илюзии“ са до известна степен универсални, въпреки че е невъзможно да се заблудят всички мрежи в света с едно нещо (или все още не знаем за това). Като цяло ужасно нещо - можете да заблудите няколко алгоритма в реалния свят едновременно и в същото време не е нужно да знаете всичко, всичко за тях.

Какво общо имат автономните автомобили? Е, както виждате, това работи не само с тях, но и ги засяга. Както казва в тази статия специалист по технологии за машинно обучение Григорий Сапунов: „Темата с автомобилите представлява особен интерес поради факта, че автомобилът е обект на повишена опасност и ако в него се появи черна кутия, която може да бъде измамена в това начин, тогава това са рискове. И рисковете от умишлена измама от нарушител, и рисковете, че самата кола може да реагира неправилно на някаква ситуация и ние не знаем коя предварително (и освен това не разбираме напълно на какво точно реагира). Тоест, потенциално застрашаващо човешкия живот и здраве, това не е добре. Оказва се, че производителят не може да даде никакви гаранции ".