Первая мысль после прочтения этого поста: человек, который когда-то сам участвовал в этой работе и из-за неё был настроен пессимистично, теперь говорит: «Кажется, у меня хорошие новости». Такой поворот значит гораздо больше, чем крик человека, который всегда был оптимистом: «Мы почти у цели!»
Меня по-настоящему зацепила не цифра «более 90% нейронов можно считывать», а сам подход: то, что раньше казалось неразрешимым тупиком, в итоге оказалось следствием недостаточно хороших инструментов и невнимательного изучения. Мы думаем, что модель непостижима, а может, просто ещё не подобрали нужные очки.
Это напомнило мне о той же ловушке в создании продуктов и работе в одиночку: многое из того, что «невозможно сделать», на самом деле означает «используем не те инструменты / ещё не разобрались как следует». Стоит перейти на другой уровень методологии и масштаба — и проблема, которая казалась безвыходной, может оказаться вовсе не проблемой. Ник свёл это к «горькому уроку»: простые вещи работают, если применять их в невероятных масштабах. Если сказать совсем просто: не трать силы на борьбу с тупой рутиной — используй правильный рычаг на полную.
Но я всё же немного остужу пыл. Его слова «возможно, скоро решим эту проблему» — это оптимизм исследователя, а не утверждение, что «ИИ уже безопасен». Возможность считывать ≠ возможность контролировать: знать, как устроена схема, — ещё не значит уметь заставить её делать только то, что нам нужно. Как и понимание устройства двигателя не гарантирует, что ты уверенно поведёшь машину.
Для себя я вынес три простых урока: ① Когда смотришь на ИИ или любую новую технологию, сперва спроси себя, не вызван ли твой «пессимизм» просто плохими инструментами; ② Если действительно хочешь в чём-то разобраться, не ограничивайся выводами — читай первоисточник (он приложил длинный текст); ③ Встречай слова «скоро решим» с воодушевлением, но сохраняй дистанцию.
Меня по-настоящему зацепила не цифра «более 90% нейронов можно считывать», а сам подход: то, что раньше казалось неразрешимым тупиком, в итоге оказалось следствием недостаточно хороших инструментов и невнимательного изучения. Мы думаем, что модель непостижима, а может, просто ещё не подобрали нужные очки.
Это напомнило мне о той же ловушке в создании продуктов и работе в одиночку: многое из того, что «невозможно сделать», на самом деле означает «используем не те инструменты / ещё не разобрались как следует». Стоит перейти на другой уровень методологии и масштаба — и проблема, которая казалась безвыходной, может оказаться вовсе не проблемой. Ник свёл это к «горькому уроку»: простые вещи работают, если применять их в невероятных масштабах. Если сказать совсем просто: не трать силы на борьбу с тупой рутиной — используй правильный рычаг на полную.
Но я всё же немного остужу пыл. Его слова «возможно, скоро решим эту проблему» — это оптимизм исследователя, а не утверждение, что «ИИ уже безопасен». Возможность считывать ≠ возможность контролировать: знать, как устроена схема, — ещё не значит уметь заставить её делать только то, что нам нужно. Как и понимание устройства двигателя не гарантирует, что ты уверенно поведёшь машину.
Для себя я вынес три простых урока: ① Когда смотришь на ИИ или любую новую технологию, сперва спроси себя, не вызван ли твой «пессимизм» просто плохими инструментами; ② Если действительно хочешь в чём-то разобраться, не ограничивайся выводами — читай первоисточник (он приложил длинный текст); ③ Встречай слова «скоро решим» с воодушевлением, но сохраняй дистанцию.