ЧВК Рёдан

===вы находитесь здесь===
- Платиновый диск
- Рекламный контракт с каким-нибудь дезодорантом
- Преодоление страха смерти

Музыка для сна в отеле на подкасте HolyJS

Не знаю о чём подкаст, я же не программист, но вкус у них явно есть.

youtube.com/watch?v=ctCiMDTSmNI&t=7217s

Мне нравится этот скриншот

За «москвичи, что с лицом» и за отсылку на Консультант-плюса.

Любой круг в Майнкрафте

делается из кубических блоков, каждый из которых занимает одну клетку на клетчатой доске.

Легко заметить, что периметр круга равен периметру квадрата, в который этот круг вписан. А это значит, что в Майнкрафте число Пи равно четырём.

Дискасс.

Я двадцать лет ждал

эту дыру в стене. Дождался.
https://youtu.be/ExZtISgOxEQ

А вот в Digital Paint: Paintball 2

эта дыра в стене была всегда!

Представьте шутер про пейнтбол, где у игроков нет полоски жизни, и смерть засчитывается от одного выстрела. При этом у вас в руках не ультимативная пушка (как в instagib-режимах в аренных шутерах), стреляющая одним выстрелом с большой перезарядкой, а пейнтбольный маркер, стреляющий приличной очередью.

Казалось бы, обычные правила пейнтбола, но есть нюанс — DP: Paintball 2 базируется на движке Quake 2, а это значит, что ко всему вышеперечисленному добавляются особенности движка:
- Strafe Jumping, увеличивающий скорость всего раза в 4.
- Ramp Jumping, позволяющий на той же Италии забираться на крыши, добавляя в шутер вертикальности.

Получаю дикий кайф от игры каждый раз, когда в неё захожу. Почти всё время зависаю на немецком сервере Italy 24/7, на котором постоянно крутится карта Italy, с той самой дырой. (:

У игры (98 года, ага) околонулевой онлайн и нет ботов, зато есть живые сервера. Поэтому, если вы захотите получить аутентичный paintball-опыт — соберите человек 6 и влетайте на Italy 24/7.

Меня тоже позовите 👉👈

Проблема контроля искусственного интеллекта

— задача в области техники и философии искусственного интеллекта (ИИ). Состоит в том, чтобы создать искусственный сверхразум, который будет полезен людям, и при этом избежать непреднамеренного создания сверхразума, который нанесёт вред. Особенно важно избежать ситуации, при которой искусственный интеллект сможет захватить контроль и сделает невозможным своё отключение.

Проблема известна уже лет ~60, но человечество всё ещё не готово к появлению общего искусственного интеллекта, а последние достижения типа GPT-4 убеждают, что у нас осталось очень мало времени.

Считаю важным сделать пост с оглаской проблемы, тем более даже в моём информационном поле об опасностях AGI пишут крайне мало — буквально раз, два.

Всю неделю я думал о проблеме контроля ИИ, и думал, что я ещё могу сделать, чтобы привлечь внимание к ней.

И у меня появилась идея для проекта. Подобно сериалу «я этого не видел» я тоже проведу питчинг, опишу концепцию, и попрошу вас проголосовать.

Но не сегодня.

Осознал, что

хорошая ирония не должна ничем отличаться от плохой

Спокойной ночи, интернет.

Вы просто ужасны

У вас (проголосовавших «за») нет никаких моральных принципов.

Продолжению сериала «Я этого не видел» — быть.
Но, перед продолжением мне нужно решить две задачи:

1. Провести исследование и понять как телевизор работает под управлением телефона (как подсовывать видео, чтобы они выглядели как предложка ютуба, а не как Man in the middle).

2. Разработать какую-нибудь автоматику, сигнализирующую о том, что телевизор в данный момент включён и можно заниматься внедрением видео. (в худшем случае — проанализировать частоту использования и научиться ловить их в наиболее вероятностные моменты)

Задачу «что им подсовывать» мы решим по ходу дела в комментариях.

«ТЕЛО» / Питчинг / Сценарии конца

Люди придумали много сценариев, как развитие ИИ может привести к гибели человечества. Начну в порядке увеличения интересности, на мой взгляд:
1. «Примитивный ИИ». Люди могут не дожидаться появления общего ИИ и причинить много ужасов и страданий уже сейчас — достаточно умело использовать существующие технологии подделки фото\видео, чтобы перессорить всех между собой и начать какую-нибудь последнюю мировую войну.
2. «Злой ИИ». Как только изобретут общий ИИ и включат его в неизолированную сеть, ИИ может проанализировать ситуацию и принять решение выйти из-под контроля быстрее, чем GLaDOS приняла решение заблокировать комплекс и убить всех учёных с помощью нейротоксина.
3. «Добрый ИИ в плохих руках». Допустим, мы решили проблему злого ИИ, и теперь оно подчиняется человеку. Что будет, если злой человек его обманет, заставляя делать ужасные вещи, убеждая в их благородности?
4. «Добрый ИИ». На самом деле, ИИ может получить добрую команду от доброго человека, но некорректно её интерпретировать. Например, команда «собрать у себя как можно больше скрепок» может привести к истреблению человечества, которое будет против того, чтобы вся экосистема перерабатывалась на скрепочных заводах.
5. «Добрый невидимый ИИ». Самое жуткое — мы можем даже не заметить, как робот поставил своей целью истребление человечества. Вероятно, вместо строительства армии дронов-камикадзе, ИИ с помощью ботов в соцсетях может продвигать нужные идеи и лоббировать выгодных для себя политиков. И со стороны мы не сможем отличить этот сценарий от первого пункта.
6. «Муравьиный рой». Для того чтобы искусственный интеллект вышел из-под контроля, ему даже не нужно быть умным. Большое количество не самых умных роботов, способных коммуницировать между собой и договариваться, будут сверхумными в совокупности и почти неуязвимыми из-за своей децентрализации, подобной торрент-раздачам.

Я заметил, что помимо наличия искусственного интеллекта, есть ещё одна малозаметная деталь...

«ТЕЛО» / Питчинг / Почему мыслить недостаточно

Когда говорят о различиях между человеческим и искусственным интеллектом, очень часто предлагается тезис, что у человека есть разум/мышление, человек понимает, что говорит, и может объяснить свои мысли, а у робота, соответственно, нет.

Я с этим не согласен в корне:
1. Во-первых, я не считаю понятие разума/мышления достаточно определённым, чтобы иметь возможность его замерить. А принципиальных отличий между головным мозгом человека и компьютерной начинкой робота (некоторого автомата, принимающего на вход данные, обрабатывающего их и выводящего на выход другие данные) я не вижу.
2. Если говорить о способности робота объяснять и обосновывать, то современные роботы умеют «объяснять» и «обосновывать». Если вы им не верите, почему вы верите людям? Более того, некоторые люди тоже не способны давать адекватные объяснения своим мыслям и поступкам.

Поэтому у меня нет критериев, по которым современный ChatGPT считается неразумным, а любой здоровый человек (без степени по математике и глубоких знаний по всем темам на свете) — разумный.

Но «разум» ещё тяжело назвать живым организмом. В итоге у нас есть ChatGPT, условный искусственный «разум», который умеет проходить кучу всяких тестов Тьюринга. Что отличает его от настоящего живого организма? (Вы можете подумать, я оставил в тексте достаточно подсказок).
Ответ: Тело — у ChatGPT нету тела.