Вчера на стриме разобрались в том, как установить локально LLaMa 2 7B-chat (локальный консольный ChatGPT): https://youtube.com/live/GhSgWeSYo-c

Всё прошло достаточно гладко и, что удивительно, работоспособно. LLMка от Meta успешно запустилась на моем стареньком MacBook Pro 2020 M1. Рекомендую к просмотру и повторению на ваших машинках. Думаю, что на следующих стримах попробуем развернуть localGPT + LLaMa 7B - связка, которая позволит общаться с вашими локальными файлами через LLM-чат.

А пока, приглашаю вас на стрим с Мишей Ларченко, который начнется через 15 минут. Поговорим про технику Apple, жизнь разработчика в Нидерладнах и поотвечаем на ваши вопросы: https://youtube.com/live/k5VXqeHe2nw

Отлично посидели с Мишей Ларченко @larchanka на стриме, обсудили кучу нюансов переезда в Нидерланды, местную айтишку и колорит 😊

👉 Смотреть тут: https://youtube.com/live/k5VXqeHe2nw
👉 Слушать тут: https://podcast.itbeard.com/e/176

Также, не забывайте участвовать в сборе и розыгрыше "Хорошее Дело", очень рассчитываю на вашу поддержку, друзья!

Я уже рассказывал про AI-сервисы для написания кода в предыдущих выпусках, а завтра вас ждет практический стрим, где будем вместе эти сервисы трогать руками.

Один из них заточен конкретно под написание unit-тестов - это сервис CodiumAI.

Ребята сделали бесплатное расширение для VS Code и IDE’шек от Jetbrains, которое буквально в один клик позволяет не выходя из IDE генерировать unit-тесты для существующего кода. Вы можете гибко настраивать стиль генерируемых юнитов (AAA, GWT, etc.), выбирать тестовый фреймворк, задавать примеры уже созданных вами тестов, чтобы на их основании генерировать новые. Я искренне радовался, когда впервые попробовал этот тул.

Сервис под капотом работает на GPT, поддерживает Python, JavaScript, и TypeScript (Java на подходе). Качество генерации на уровне, иногда я прям удивлялся тем edge cases, которые сервис умудрялся покрывать. Общем, если вы ленитесь писать тесты, либо хотите экономить своё время, то очень рекомендую обратить внимание на CodiumAI
#ai

Не знаю, есть ли целевая аудитория у этой новости в моем канале, но все же — как стало известно "Медузе", с 1 сентября ФСБ РФ получит постоянный доступ ко всем данным сервиса Яндекс.Go (бывший Яндекс.Такси), вне зависимости от того, в какой стране из 20, где работает сервис, находится клиент. Просто у сервиса буквально два-три места, где он хранит все данные, и все эти места — датацентры в РФ, где начинает действовать закон о таком доступе к сервисам такси, внесенным в реестр распространителей информации.

Самый простой выход из ситуации — раз уж желающие просто писать код и не думать о политике разработчики компании сознательно собрали все данные в РФ, — это силами Data protection органов всех стран, где работает сервис, запретить его работу с возможными крупными штрафами. За пару недель это вполне можно успеть сделать.

Ну, а что делать эмигрантам из РФ, пусть сами решают. Могут петицию на Change.org подписать, могут фонариками посветить. Только аккуратнее, чтобы тыквенное латте не расплескать.

@blognot

https://meduza.io/feature/2023/08/08/sovsem-skoro-fsb-poluchit-kruglosutochnyy-dostup-k-dannym-servisa-yandeksa-po-zakazu-taksi-kak-vyyasnila-meduza-v-tom-chisle-k-poezdkam-za-predelami-rossii

В комментариях к предыдущему посту у ребят подгорело, что "опять эмигрантов ущемляют". Учитывая, что изначальный репост от Грея (Сергей Петренко, один из ведущих Радио-Т), который украинец, то можно слегка допереть, что он добавил про эмигрантов через свою позицию, которую понять можно.

Для меня же суть этого поста в том, что в гробик Яндекса потихоньку вбиваются новые гвоздики. Волож нет нет, да старается отстраниться от своей связи с компанией. ФСБ насело на её шею и погоняет во все бока, как только может.

Яндекс давно стал фсбшной помойкой (я сам понял это поздно, увы), сейчас появляются ну просто уже прямые на это указания, но многие айтишники до сих пор упорно твердят, что "это другое, я просто пишу ПО в топовой компании". А когда ответственность за деятельность этой "топовой" компании вменяют и им, они начинают гореть жопой и отнекиваться. Это конечно и смешно и грустно. И уже классическое "Бережной, чё с *балом?" (он там ещё работает вообще??)

UPD: в эту же помойку ВК, Тинькофф, "неявные" доченьки Сбера (ой, Звук) и другие конторы, связь которых с государством может отследить пятилетний ребенок, умеющий в гугл.

Вчера провел практический стрим по ИИ-инструментам для разработчиков: https://youtube.com/live/LNzWMxCuIpY

В начале вас ждёт небольшое интервью с СЕО Machinet - Владом Янченко. Ребята пилят конкурента Copilot Chat и Jetbrains AI Assistent. Послушать это интервью в аудио можно тут: https://podcast.itbeard.com/e/177

В рамках самого стрима посмотрели на работу кучи сервисов: Machinet, Github Copilot, Copilot Chat, Jetbrains AI Assistant, Amazon Codewhisperer, Ghostwriter, CodiumAI, Tabnine, Сodeium и несколько других тулов.

Напоминаю, что стримы проводятся в рамках сбора и розыгрыша "Хорошее Дело", мы собрали уже 44% от необходимой суммы, надеюсь добьём до конца!😊

Ну а сегодня будет последний стрим перед моим отпуском: в 19:30 CET расскажу и покажу, как можно обойти некоторые ограничения ChatGPT.

Вы про DevRel слышали? А я им занимаюсь так-то 😅
Выложили только что интервью с Женей Борисовым, да не про Java, а про Developer Relations, так как именно этим он сейчас и занимается. Коллеги, получается 😊

👉 Смотреть тут: https://youtu.be/FfZnXXqNCm4

Начинаю стрим, на котором посмотрим, что за такой инструмент BetterChatGPT и как его использовать для обхода ограничений ChatGPT: https://youtube.com/live/f9G7EGEyUzE?feature=share

Начиная со следующего релиза, Firefox для Андроида будет поддерживать почти все расширения десктопного Firefox. Это большое дело, я пользуюсь и андроидом, и айфоном, и главный плюс андроида для меня — Firefox. Если еще и все любимые расширения будут в нем, непонятно как удерживаться на айфоне, честно говоря.

https://blog.mozilla.org/addons/2023/08/10/prepare-your-firefox-desktop-extension-for-the-upcoming-android-release/

⚡️AIA Podcast #14 уже на всех платформах!

Сегодня говорим про GPT-5 и слухи по его выходу на рынок, про Project IDX от Google, про нейронку для программирования от Stability AI, про конкурента Github Chat и Jetbrains AI - Machinet, обсуждаем новые ИИ-законы и зачем Белому Дому ИИ-пентестеры, осуждаем Дисней и говорим про Эрика Картмана.

👉 https://youtu.be/kHVRBaKIjOc

Очень интересный эфир Точки про настоящее и будущее Яндекса через призму последних заявлений от Колмановской (главред Яндекса) и Воложа. Обсуждают Гриша Бакунов, Сергей Петренко и Лев Гершензон.

Все трое в разные времена занимали высокие должности в компании, Лев вон даже Новостями рулил в своёвремя. Всё трое, мягко говоря удивлены, происходящим и отношением яндексоидов к окружающей действительности после полутора лет очевидного зла и даже после откровенного признания Воложа, что компанию про***ли.

Лично мне больше всего понравилась часть с обсуждением деятельности г-жи Елены Колмановской, а точнее её бредовейшего ответа на высказывание Воложа про компанию, прошлись катком и основательно, с аргументами, почему эта дама в корень ах**ла. Советую к просмотру, особенно тем яндексоидам, которые всё ещё "против войны за мир во всём мире" и " не, мы изменим компанию, уже скоро!" (знаю, такие меня читают): https://www.youtube.com/live/Ef1LGUmtXO0

Сбор "Хорошее дело" перевалил за половину, осталась меньшая часть, надеюсь, что дособираем её 🥰❤️

Если вы вдруг ещё не слышали про сбор, то вот тут есть полная информация о нём. Там же есть список всех участников розыгрыша MacBook и другая информация про сбор 😉

P.S. Скоро вернусь из отпуска, и продолжим встречи на стримах 😎

Уже появилось немало open-source LLM'ок, заточенных под программирование и которые можно использовать на своём ноуте или сервере за немного денег.

Зачем оно надо? Оно будет работать исключительно на вашей машинке, не сливая данные, вот и всё. Но этот нюанс открывает огромные возможности по запуску всяких там ИИ-чатов и копайлотов для команд разработки в компаниях, которые блокируют использование сторонних LLM типа ChatGPT и т.д. AI-Ops не за горами, а ещё пол года назад казалось, что это сказки😎

Ниже оставлю несколько самых популярных LLM, которые обучались для написания кода (отсортированы в порядке появления на рыночке):

🔸 Codes Alpaca (7B, 13B) - первая специализированная LLM'ка, набравшая большую популярность. Построена на базе слитой LLaMa.

🔸 StarCoder (15.5B параметров) - моделька от проекта BigCode, доступна для коммерческого использования (Apache License 2.0), запускается на железе с 20Gb RAM в минимальной конфигурации.

🔸 Code T5+ (220m - 16B) - LLM'ка для программирования от SalesForce, следующее поколение модели Code T5 (которая запускалась почти на каждом корыте), входит в семейство моделей CodeGen.

🔸 Stable Code (3b) - свежая моделька от Stability AI, которые разрабатывают StableDiffusion, DeepFloydIf и вообще молодцы.

🔸 Code Llama (7b, 13b, 70b) - модель от Meta, построенная на базе LLaMa 2 и зафайнтьюненная под задачи программирования. На момент написания этого поста ещё не вышла в открытый доступ. Если таки выйдет, то будет самой большой из опенсорстных, сможет работать на уровне GPT 3.5 или лучше (но до GPT 4 там ещё далеко).

Большинство из этих моделек - баловство по сравнению с Github Copilot и Chat GPT. Т.е. если вы привыкли к качеству копайлота, то не ждите такого-же от опенсорсных моделей, они все значительно меньше и тупее того, на чем работал копайлот года назад (не говоря о сегодняшнем Github Copilot). Но вот с выходом Code LLaMa всё может поменяться, так как разворачивать локальный копайлот, который работает на уровне Github Copilot начала 2023 года (не GPT 3.5 который) уже смысл будет, и это сможет приносить как пользу так и профит компаниям-разработчикам ПО.

ВАЖНО: Перед использованием внимательно читайте правила использования этих моделей (лицензию), некоторые из них (Stable Code, например) можно использовать только для research-целей, у некоторых, скорее всего, будут ограничения на коммерческое использование (привет LLaMa 2).

👉 Если вы ни в зуб ногой как эти LLMки разворачиваются, то вот тут я прям пошагово разоврачиваю LLaMa 2 на своём ноуте за три часа: https://www.youtube.com/live/GhSgWeSYo-c
👉 А вот тут паренек делает это и вовсе за 15 минут: https://youtu.be/TsVZJbnnaSs
#ai

Ух, Meta даёт жару!
Пару часов назад они представили ИИ-сервис Seamless Communication Translation, который распознаёт речь на более чем 100 языках, транслирует её в текст, переводит на один из 36 языков и озвучивает результат ⚡️

Потестировать сервис можно тут: https://seamless.metademolab.com/demo. Просто надиктовываете на любом языке до 15 секунд речи и кайфуете от результата. Я тестировал с беларуским языком - работает отлично 👍

Не могу не напомнить, что пару месяцев назад назад Meta уже анонсировала AI-проект Massively Multilingual Speech (MMS), который может переводить чуть ли не 1100+ языков. Не удивлюсь, если Seamless Communication Translation окажется одним из продуктов, родивщихся из MMS.
#ai

Статья из NewYorker настолько разлетелась на цитаты, что добрый человек сделал автоматический перевод и откорректировал его до читаемого состояния. Я выложил перевод вот тут:
https://mirror.xyz/bobuk.eth/DsgCiDfMERghhf0GknQ5P4fqnf_tnlHPTEwOIkmXl7Y

Повторюсь, я считаю, что вам стоит прочитать или оригинал, или перевод статьи, потому что Илон — это, безусловно, один из самых масштабных людей нашего поколения, стоит посмотреть на него с разных сторон.

Немного пошаманив сделал качественный перевод этой статьи на беларуский язык - земляки, читайте на здоровье: https://letapis.vkl.world/itbeard/tseniavoe-pravila-ilana-maska 😊

Вообще: статья хорошая, но нового открывает мало для тех, кто давно следит за импозантной деятельностью Маска.
Хотя почитать некоторые непубличные моменты было прям очень интересно.

Вы только посмотрите какое видеоэссе мы умудрились собрать. Про то как хайп уже восьмой десяток лет вставляет палки в колеса развитию ИИ.

Сейчас понятно, у нас бум, взлет и расцвет этой индустрии. Всякие нейросети и языковые модели творят чудеса, ML-щики нарасхват, льются миллиарды инвестиций (хотя вроде как кризис) — но и на ожидания от ИИ тоже посмотрите.

Супер умные люди говорят — дайте этим штуковинам еще год, и они изменят мир до неузнаваемости. Половина современных профессий перестанет существовать, а интернет не будет прежним.

Мы покопались в прошлом и увидели, что такое творится уже не впервой. Когда собрали первый компьютер размером с камаз, все стали ждать “мыслящих как люди машин”. Когда впервые выкатили корявый машинный перевод, все стали ждать революционного прорыва в межкультурном общении. Когда в 50-е впервые описали возможную нейросеть — все стали ждать электронный мозг, который себя осознает.

Ни к чему хорошему такие ожидания обычно не приводили.

В общем, посмотри — история прошлых ИИ зим
https://youtu.be/a1IsEu569cM

Интересное исследование от IBM о том кого и как в ближайшие три года затронет ИИ (речь про навыки и профессии). В целом, в статье рассматривается не столько воздейстиве ИИ, сколько смещение в навыках в среднем по рынку. Мол STEM начинает уступать навыкам персонального менеджмента и софт скилов и все такое. Советую полистать: https://www.ibm.com/downloads/cas/NGAWMXAK

Code Llama – еще один шажок к ИИ программистам

Meta сегодня представила Code Llama, модель, которая обещает стать новым словом в мире программирования. Она была создана для того, чтобы ускорить и упростить процесс разработки для программистов и помочь новичкам.

- Открытая и бесплатная модель, основанная на платформе Llama 2.
- Три версии: основная, для Python и с акцентом на исполнение инструкций.
- В тестах превзошла другие известные LLM.

Meta надеется, что их новый инструмент даст толчок к инновациям в сфере программирования и поможет всему сообществу разработчиков.

🐙 Код
🤩 Веса
🤓 Статья
🙃 Блог-пост

Сегодня в 17:00 СЕТ провел очередной АМА-стрим (ответы на вопросы) 😊

👉 Смотреть тут: https://youtube.com/live/eI5Do2nzLrw

Также, не забывайте участвовать в сборе и розыгрыше "Хорошее Дело", очень рассчитываю на вашу поддержку, друзья!