Фух, наконец-то закончил все формальности и можно рассказать, что мы делали этим летом. А занимался я вместе с двумя студентами обучением AI-модели распознавания кипрской речи. 🇨🇾 В чем проблема? На Кипре официальный язык – греческий. Но в жизни многие говорят на кипрском диалекте (он древнее, но куда менее представлен в цифре). Когда я использую самописное приложение для распознавания греческого языка на местных встречах, оно буквально сходит с ума. А тем более Google Translate, ChatGPT и прочие. Голосовые ассистенты при звонках тоже уходят в отказ. Самое интересное: ни Whisper, ни Google, ни ElevenLabs, ни даже Meta с их 1600 языками кипрский диалект не поддерживают. Для них это просто шум или «неправильный греческий». То есть сделать нормальный голосовой AI для поддержки киприотов сейчас невозможно, даже если работать с крупнейшими компаниями и отдать им много денег. Как мы это решали (спойлер: было больно) У меня было два студента-стажера, и мы решили сделать что-то общественно полезное. План казался простым: берем датасеты, дообучаем греческий wav2vec на видеокартах несколько дней за пару сотен баксов – и готово, State-of-the-Art. Ха! Затея провалилась в начале. Оказалось, кипрских датасетов (аудио + текст) просто НЕТ. Либо данные утеряны, либо файлов нет, только ссылки, либо нет ответа от автора исследования, либо стоят 35 000 евро. Пришлось собирать всё с нуля: собирать ролики кипрского ТВ, радио, подкасты, словари. Мы даже создали сайт для краудсорсинга переводов – voiceofcyprus.org. Использовали кучу костылей, чтобы модель понимала контекст с практически полным отсутствием чистых данных. Итог За 6 недель и $150 на GPU мы реально обучили небольшую модельку понимать кипрский диалект! 🚀 Это еще не продакшн-уровень, но это первый рабочий пайплайн и рабочая модель! Мы доказали, что задача решаема. Сейчас это уже огромное подспорье для ученых и разработчиков локального AI на острове. Если соберем больше данных (в том числе через наш сайт), можно дообучить до состояния лучше любого провайдера на рынке! И такой подход можно будет использовать для практически любого языка и диалекта мира. В общем, было сложно и круто! И вывод как всегда простой: нет данных - нет AI. Даже со всеми технологиями мира. 🎥 О наших приключениях сняли классный ролик. С удовольствием делюсь! https://youtu.be/zN_FMIWRSLA