Comparaison des codecs magiques de rue. Révéler les secrets

Cette année marque l'anniversaire - 16 ans depuis le lancement du site Web compression.ru, où l'auteur et ses associés organisent des comparaisons de codecs vidéo et d'encodeurs d'images. Pendant ce temps, des dizaines de comparaisons ont été faites avec des rapports de 23 à 550+ pages , le nombre de graphiques dans la dernière comparaison a dépassé 7000 et le nombre de cas enchanteurs différents pendant cette période a finalement dépassé toutes les limites raisonnables. Puisque la prochaine date ronde (32 ans) viendra bientôt, il y a une envie de raconter un peu d'enchantement en l'honneur de l'anniversaire.

Si nous parlons de codecs, ce n'est un secret pour personne que la plupart des comparaisons et des graphiques que le public le plus respecté voit sont des produits du service marketing. Dans le meilleur des cas, les ingénieurs ont fait les graphiques avec compétence et le marketing n'a donné le feu vert qu'à la publication. Dans le pire des cas, les ingénieurs n'ont pas du tout participé à leur préparation. Pourquoi perdre du temps sur ces gens occupés!

Dans le même temps, le sujet de la compression est très populaire. Dans la série Silicon Valley, la start-up du protagoniste a développé un algorithme ingénieux qui, dans le dernier épisode de la première saison, a montré une compression vidéo 3D incroyable et, par conséquent, des millions de startups (et investisseurs) dans le monde savent que l'essentiel est d'avoir un coefficient Weissman plus grand et plus encore le génie doit être trouvé, et le reste est des conneries. Le miracle sera! Cela augmente naturellement l'attente des miracles et, bien sûr (bien sûr!) Ces miracles sont joyeusement démontrés par les entreprises! Y compris en utilisant les dernières réalisations de la magie de la rue.

AVERTISSEMENT: Toute coïncidence des noms des sociétés ci-dessous avec des noms réels est absolument aléatoire.

Asseyez-vous! Nous vous promettons qu'à la fin de l'histoire, vous serez en mesure de montrer ces astuces vous-même, comme, cependant, et d'en révéler beaucoup. C'est parti!

Niveau 1, astuces pour débutants

Commençons par les plus simples, car, curieusement, ces méthodes sont intégrées dans une Silicon Valley moderne (pas sérielle, mais réelle!).

Alors, le public le plus respecté, commence des tours avec une démonstration de compression ultra-forte!



Certes, beaucoup ont vu des comparaisons dynamiques similaires avec des chats discrets basées sur JS dans les pages. Si la compression est comparée, il est raisonnable que la qualité soit aussi égale que possible (idéalement exactement la même), et à droite, elle serait compressée 2 fois mieux, par exemple.

Aussitôt dit, aussitôt fait!

La société revendique une compression 30% supérieure (tous les matchs sont aléatoires!). Et les images sont exactement les mêmes! Même un look professionnellement formé ne trouve pas de différences. Il y a un désir de regarder plus en détail. Nous montons dans le code de la page et voyons que le curseur pour les première et deuxième images prend les données d'un fichier! Nous obtenons des avantages de plusieurs façons à la fois: premièrement, le meilleur résultat est idéalement démontré, deuxièmement, l'ingénieur n'a pas été distrait du travail, et enfin, cet endroit sur la page du site se charge deux fois plus vite. Profit solide !!!

Le cas, ne le croyez pas, est réel. Vous savez maintenant où chercher!

Dans un autre endroit - aussi un curseur et encore un merveilleux résultat. Nous examinons le code du curseur - différents fichiers sont chargés. Enseigné par une expérience amère, téléchargez-les - ils ne sont pas seulement à un octet de la même taille, ils correspondent peu à peu! En général, tous les avantages de la méthode précédente, mais la mise au point est un peu plus compliquée, bien qu'en raison du ralentissement du chargement des pages (il faut tout payer ...). Et, plus important encore, vous n'avez pas besoin d'attirer des spécialistes coûteux en compression.

Cependant, les spécialistes du marketing plus avancés à ce niveau vont encore plus loin. Le curseur est disposé - vous regardez - les images sont différentes, mais la qualité est très similaire. Bon ok. Encore plus! Une ouverture fantastique est démontrée - il y a même des liens vers des fichiers vidéo. Le téléchargement est un très bon avantage de leur méthode, on ne sait même pas comment ils l'ont fait. Il est utile que nous soyons tous des pirates informatiques entièrement russes (déjà une marque en Occident). Nous regardons le train de bits et voyons une merveilleuse image:


Autrement dit, même de nombreux experts, s'ils ne creusent pas profondément et ne revérifient pas, confirmeront en effet que les gens ont un excellent résultat qui est environ le double de la taille du leader d'aujourd'hui avec une qualité comparable. Vous ne croirez pas que de telles méthodes sont utilisées pour elles-mêmes et même dans certains cas vous permettent d'obtenir des dizaines de millions de dollars d'investissement.

Je me souviens d'une rencontre avec une startup russe il y a 6 ans. Leur directeur a dit dès la porte: «Vous devez faire de notre mieux pour nous. Nous avons des investisseurs de Severstal et, si quoi que ce soit, des gars rasés par le sport avec des fers à souder viendront à vous. »Comme vous le savez, dans des conditions aussi difficiles, la qualité du travail de recherche augmente comme par magie et le nombre de tours de différents niveaux diminue ... travailler avec de tels cas dans notre patrie d'éléphants, il y a un sentiment irrésistible de pitié pour les investisseurs occidentaux. Certes, tous nos investisseurs ne sont pas aussi purement spécifiques, et leurs magiciens sont aussi chez nos Palestiniens. Et régulièrement. Mais à ce sujet une autre fois ...

Résonance de niveau 7

Cette histoire n'est pas sur un codec vidéo, mais sur la compression d'image, mais il y en avait beaucoup selon toutes les lois du genre des «trucs honnêtes».

D'une manière ou d'une autre, une entreprise assez bien connue M a décidé qu'elle devait ajouter Windows Media Photo (WMP) à leurs formats Windows Media Video (WMV) et Windows Media Audio (WMA). Nettoyez pour le kit, comme vous le comprenez.

Jeune homme à la galerie! Eh bien, ne criez pas si fort, ce n’est pas seulement un de vous! Personnes cultivées (regardez au premier rang) maximum - souriant sciemment dans une moustache ...

Aussitôt dit, aussitôt fait!

Ensuite, surveillez attentivement les mains:


C'est-à-dire WMP a plus de détails que JPEG et JPEG 2000 au même niveau de compression (JPEG et JPEG 2000 sont doucement égalisés et le niveau est réglé 24 fois), et dans le paragraphe suivant :


C'est-à-dire habituellement seulement 6 fois presser, et c'était 24. Wow, ça sent trois fois! En général, nous sommes mieux 2 fois à coup sûr. Les médias ont transmis la bonne nouvelle aux masses (certains ont écrit qu'elle était 2 fois meilleure que JPEG 2000), même sur Habré ils ont répété cette nouvelle .

Un peu plus tard, un graphique est apparu à partir de cette présentation:




L'avantage par rapport à JPEG 2000 était faible, malgré le fait qu'ils aient évidemment sélectionné la meilleure photo avec un garçon et des dauphins merveilleux. Nous avions hâte de jouer avec cet encodeur. Après environ six mois, l'utilitaire de compression a été présenté.

À ce moment-là, nous avions il y a à peine un an une comparaison de 9 implémentations de JPEG 2000

Oui, oui, oui! Comme tous les yaourts ne sont pas également utiles, toutes les implémentations de la norme ne sont pas également bonnes. La norme ne stipule qu'un flux binaire, qui peut être mis en données (et, soit dit en passant, supprimé!) De manière très différente, cela crée un marché de codec séparé avec sa concurrence féroce pour une bonne douzaine de paramètres. Un peuple simple, en règle générale, ne le sait pas, ce qui lui permet de rouler sur ses oreilles en toute impunité pratiquement sur un bulldozer ("Notre DVR prend en charge le dernier H.265 / HEVC, personne d'autre ne l'a!"). Et personne (personne!) Est TRÈS probable d'une configuration.

Nous avons heureusement inséré 3 lignes pour WMP dans le rapport précédent. Il s'est avéré en quelque sorte comme ceci:

On peut voir que les lignes des implémentations JPEG 2000 sont assez encombrées et en bleu gras (la meilleure implémentation WMP) a des résultats quelque part entre les deux, c'est-à-dire LECTURES JPEG 2000. Si vous prenez JASPER comme zéro et que vous montrez tout verticalement par rapport à lui, alors vous pouvez voir que WMP avec le pire paramètre perd presque tout sauf les deux derniers (l'un d'eux est KDU, rappelez-vous ceci), et avec le meilleur il est quelque part centré, perdant face à de nombreuses implémentations:

Étant donné que la comparaison a été publiée publiquement et a provoqué des remous dans des cercles étroits, le développeur y a même répondu sur le blog officiel . La note était polie: elle a été louée, critiquée, puis, si vous parcourez le texte, l'homme a franchement admis avoir utilisé la pire mise en œuvre de JPEG 2000 de notre comparaison (publiée six mois auparavant) dans leur comparaison, bien que "complètement par accident". Bien sûr, nous les croirons. Une entreprise respectée et tout ça.

De plus, le nom de la technologie est passé de WMP à HD Photo, mais le verdict suivant est resté sur le réseau:

Comme une cerise sur un gâteau. Nos collègues sont allés plus loin: ont pris plus de photos et montré que HD Photo lit non seulement JPEG 2000, mais aussi une bonne implémentation JPEG ( dans 7 cas sur 14 ). Et perd spécifiquement. Il y a des raisons de croire qu'ils ont récupéré les photos, mais ils ont franchement enterré HDPhoto, car qui a besoin d'un format qui joue la moitié du temps l'ancien JPEG - ce n'est pas clair:


Total des secrets de cette astuce:

• Nous prenons la pire mise en œuvre du principal concurrent, comparez-la.
  
• Nous créons un battage publicitaire (dans le style de "nous avons dépassé tout le monde").
  
• Lorsque le battage médiatique s'estompe à l'arrière-plan, nous libérons et espérons que personne ne vérifiera ce qui était vraiment là.
  

Les enfants! Ne faites jamais cela et ne trompez pas les autres! Votre entreprise pourrait perdre des millions de dollars et la confiance de spécialistes.

Niveau 10, frais! Avec les réseaux de neurones!

En général, il y a beaucoup de tels cas. Même en Russie, je rencontre des situations similaires environ deux fois par an (des informations nous parviennent, comme pour les propriétaires de compression.ru). Les investisseurs occidentaux sont élevés environ une fois par mois. Et maintenant, la Chine s'est également connectée à ce divertissement. La puissance des ordinateurs augmente, la complexité et les capacités des algorithmes aussi. Comprendre cela devient de plus en plus difficile. En conséquence, le plaisir violent continue!

Récemment, les réseaux de neurones sont devenus très populaires. Absolument tout ce qu'ils touchent s'améliore comme par magie. Mais ne les appliquez pas à la compression vidéo?

Aussitôt dit, aussitôt fait!

En novembre dernier, une autre bonne nouvelle du Wall Street Journal lui-même a fait le tour du monde. Créé un codec vidéo basé sur l'apprentissage automatique qui a déchiré tout le monde! En voici la preuve:

En général, je suis personnellement extrêmement sceptique sur toutes les nouvelles avec la mention des réseaux de neurones. Et je vous conseille (SURTOUT si vous êtes un investisseur). Les réseaux de neurones sont organisés de manière à ce que la sélection correcte d'un échantillon d'entraînement pour un test puisse afficher n'importe quel résultat (pour le terne - TOUT!). Les réseaux de neurones sont un outil idéal pour lancer un flux de merveilles marketing. L'un est plus merveilleux que l'autre!

En général, il y a un horaire, il y a des photos. D'accord - de manière convaincante. Surtout pour les sceptiques, les messieurs ont apporté quelques graphiques supplémentaires sur des ensembles de test bien connus:


Cependant, si le graphique précédent avec des images pour moi personnellement était en quelque sorte explicable (il est toujours possible d'affiner une vidéo et même avec des réseaux de neurones profonds), alors ces deux graphiques m'ont rendu très alerte.

Rien ne vous dérange en eux?

Ils mettent même la base en dessous, comme les codecs classiques reposaient sur la limite et ne sont pas particulièrement évolutifs (et ici ils montent sur scène, tout en blanc). Et vous savez, un mensonge aussi flagrant fonctionne très bien! Et d'accord, "The Wall Street Journal" - ils (je voudrais croire) ne comprennent que les finances, d'accord "MIT Technology Review" - ces messieurs prennent le mot pour les messieurs de la Silicon Valley, mais une ressource aussi respectée que Habr a pris les nouvelles sans critique - Je vais le faire! Que puis-je dire à propos de la réimpression massive des nouvelles ...

En réalité, l'image du développement du codec, heureusement, est sensiblement différente. Tout d'abord, dans le graphique ci-dessous, que nous avons construit sur le même ensemble de vidéos xiph, nous pouvons voir que H.265 est de 25 à 31% meilleur que H.264. C'est-à-dire 10 ans de développement de codecs n'ont pas été vains! ( Uff, il s'est relâché du fond du cœur ... ) Deuxièmement, le nouveau AV1 montre une amélioration presque double par rapport au H.264, et le pas de son avantage, franchement, est très perceptible:


En conséquence, on peut voir à l'œil nu que si vous superposez le graphique AV1 à 45% à gauche de H.264 sur le graphique des auteurs, il couvrira le nouveau codec comme ... [découpé par censure]. Couvre bien, bref. Par conséquent, ils «ont oublié» de se comparer à lui. L'alignement réel ressemble à ceci (beaucoup moins de monde, d'accord):

Pour être clair - les codecs ont des préréglages standard qui vous permettent de faire varier la vitesse dans une plage considérable (souvent des dizaines de fois), mais en même temps d'obtenir une compression plus élevée avec la même qualité (souvent plus de 2 fois). À x265 (une très bonne implémentation open-source de la norme HEVC ), ils sont appelés: ultra-rapide, ultra-rapide, très rapide, plus rapide, rapide, moyen, lent, plus lent, très lent, placebo. Si nous prenons moyen pour 1, puis en vitesse et taille de fichier avec la même qualité, ils peuvent être localisés pour un fichier particulier, par exemple, comme dans le graphique ci-dessous. Nous pouvons dire que relativement moyen, vous pouvez agrandir ou réduire le fichier de 40%, en variant la vitesse de 10 fois:
Notez que pour certaines vidéos, les options standard ne vont pas nécessairement de façon monotone (dans ce cas, en qualité). De plus, parfois les options «non standard» peuvent donner un gros gain de taille , en particulier, en utilisant l'exemple ci-dessus, ayant perdu 20% de vitesse par rapport au moyen, vous pouvez jouer 30% en taille - presque comme passer au niveau suivant standard, mais avec la faible complexité précédente décodeur. Mais c'est déjà un niveau plus complexe, à ce sujet une autre fois.

Comme vous pouvez facilement le voir ci-dessus, les messieurs ont pris pour comparaison "plus lentement". C'est bien que ce ne soit pas «très rapide», car vous pourriez l'avoir! ) Et peu importe que leur codec lui-même soit incroyablement lent. Pour la plupart, les personnes qui regardent un graphique ne se souviennent pas que la vitesse du codec peut différer de quelques ordres en fonction des paramètres. Par conséquent, cette technique roule complètement. Bien que sur notre graphique ci-dessus ("Bitrate / qualité ..."), leur faisceau de lignes était dans la zone rouge (ce qui est le pire). Dans le même temps, justifier le piétinement sur place dans le développement des codecs. Ouais ouais

Il y a des manipulations plus subtiles, par exemple, messieurs écrivent: «Pour supprimer les cadres B, nous utilisons H.264 / 5 avec l'option bframes = 0, VP9 avec -auto-alt-ref 0 -lag-in-frames 0, et utilisez le profil main.cfg P lowdelay de l'encodeur HM. » Autrement dit, ils ne pouvaient pas battre les codecs habituels dans une concurrence loyale et ont choisi le mode à faible latence à faible latence, qui est généralement utilisé pour le temps réel, par exemple, pour la vidéoconférence. Les résultats du codec sont bien sûr pires. Dans le même temps, leur décodeur (silencieux sur l'encodeur) fonctionne 2 secondes par image, c'est-à-dire que vous ne pouvez même pas parler de faible latence. Mais quelques pour cent ont joué.

Ce ne sont pas toutes les astuces qui ont été utilisées par les startups gentlemen, mais l'image est déjà claire.

Il est clair que pour que la mise au point semble crédible, des touches supplémentaires sont nécessaires pour donner du réalisme. Par exemple, ces messieurs ont publié un article sur https://arxiv.org/abs/1811.06981 . Aujourd'hui, le développement d'algorithmes est si rapide qu'il devient insupportable d'attendre qu'un article soit publié dans une revue, c'est pourquoi de nombreux auteurs forts publient d'abord les résultats sur arxiv.org. Pour les magiciens de rue, ce site est pratique en ce sens que vous pouvez y placer absolument n'importe quel matériel - contrairement aux magazines et conférences évalués par des pairs, personne ne posera de questions désagréables et coupera la publication (il n'y a pas de tuer les critiques de lieux sérieux). Mais le grand public ne sait pas que, par exemple, le 1er avril, il était de coutume de publier diverses parodies d'articles scientifiques sur arxiv.org, y compris de le ridiculiser en tant que site de publication, donc pour le grand public, la publication semble être encore solide.

Allez-y. Un article à leur sujet était intitulé « Le premier codec vidéo de l'apprentissage automatique a considérablement dépassé tous les codecs existants, y compris H.265 et VP9». Une autre blague est que l'apprentissage automatique en compression n'est pas seulement exploré activement, auquel les pistes de conférence individuelles sont déjà dédiées (c'est-à-dire qu'il y a beaucoup d'articles ), mais il est également activement utilisé, par exemple, dans AV1 (je fournis spécifiquement une demande Google). Mais, s'ils disaient honnêtement: "Nous avons publié le deuxième codec en utilisant l'apprentissage automatique, tout en perdant le premier en vitesse et en compression", le Wall Street Journal n'aurait peut-être pas écrit à leur sujet ... Et MIT TechReview n'aurait pas écrit ... Et même Habr ... Evidemment, n'ayant pas enduré ce dernier, la compagnie a légèrement ajusté le pitch. Dans le même temps, une caractéristique de l'Internet moderne est que les gens ne vérifient pas les informations, ce qui permet à beaucoup de se proclamer les premiers à plusieurs (à commencer par des entreprises bien connues). L'insolence, comme vous le savez, prend la ville! Une vérification des faits n'est pas à la mode.

- Googlé!
- C'est comme ça?
[exemple de demande donné ci-dessus)))]

Et aussi à propos de ML / DL. Dans un passé lointain, lorsque les disquettes étaient grandes et les disques durs petits, l'une des méthodes de «magie de rue pour les archiveurs» consistait à enregistrer une partie du fichier compressé quelque part loin dans un répertoire contenant des fichiers temporaires et ainsi afficher un enregistrement. Depuis lors, les temps ont changé. Les Winchesters ont grandi, les disquettes ont complètement disparu et il est devenu à la mode de cacher des données dans les profondeurs de plusieurs centaines de mégaoctets de coefficients de grille. Vous pouvez enregistrer la "marque de copyright" dans la grille, vous pouvez enregistrer l'œuf de Pâques, ou vous pouvez définir un faux enregistrement de compression. Réseaux de neurones profonds - définitivement de la puissance, en bref!

Résumant ce chemin vers le succès:

• Nous ignorons le leader moderne comme s'il n'existait pas du tout.
  
• Nous formulons soigneusement tout pour qu'il se lise comme si nous étions les premiers à utiliser une nouvelle technologie (et même si le leader a fait le premier, personne ne vérifiera).
  
• Pour les normes il y a 5 et 15 ans, nous fermons les poignées pour qu'elles fonctionnent moins bien que nous.
  
• Plus d'arrogance - nous justifions le fait qu'ils se sont entassés derrière nous pour qu'ils reposent sur la limite et ne se développent plus.
  
• Nous sommes publiés dans le Wall Street Journal et sur Habr ...
  

Et ... (roulement de tambour!) ... ils vous donnent encore quelques millions de dollars! Ou ils ne donnent pas ... Je ne donnerais pas ... Investisseurs! Ne dors pas! Et puis encore vous soufflerez dans l'eau ...

Et maintenant la master class!

Comme je l'ai promis ci-dessus, à la fin de ce texte, vous pouvez facilement briller sur la scène du pikabu conditionnel.

Maintenant, O public le plus respecté, je vais vous montrer une astuce qui vous permet de comparer n'importe quoi avec n'importe quoi à n'importe quel résultat prédéterminé. C'est-à-dire si vous voulez que le codec A soit meilleur que le codec B, alors nous allons le montrer, si vous voulez que B soit meilleur que A, eh bien, nous pouvons le montrer. Nous remplirons n'importe quel caprice du service marketing pour votre argent gratuitement!

Vérifions comment ces codecs pressent. Comme on dit - ne faites confiance à personne, vérifiez-le vous-même. Et puis, peut-être la vérité est, ces normes ne se développent pas et nous sommes tout simplement dupes, forçant en vain à payer l'argent gagné par le surmenage, on ne sait pas pourquoi?

«‎»‎ 480p24 x264 c "-preset superfast -x264-params «nal-hrd=cbr» -b:v 1M -minrate 1M -maxrate 1M -bufsize 2M" xvid "-preset superfast -b:v 1M -minrate 1M -maxrate 1M -bufsize 2M" ( open-source H.264 MPEG-4). .

:
avatar_x264_cbr1M_superfast.mkv — 1402 MB
avatar_xvid_cbr1M_superfast.mkv — 1401 MB

, ! !!!

, :


:

! ?


D'accord! Le progrès est clair et inexorable! Tout se développe et s'améliore de plus en plus! Et la vie est plus belle et plus amusante!

Bien que ...



Dieu, qu'est-ce que c'est ??? La nouvelle norme a complètement fusionné ... Ahhh



! Les gens! Sachez! Les entreprises vous trompent !!! Les codecs ne se développent pas depuis longtemps, mais ils vous disent que tout va bien!



Voyez-vous Tout ce qu'ils ont appris en 10 ans, c'est d'éroder le bloc! Et ils le font tout simplement dégoûtant! Ça a empiré! Vous avez été mené par le nez toutes ces années !!!!!!! 11

Et maintenant, nous allons voir comment le faire.

En fait, la trame complète ressemble à ceci:

Lorsque le codec fonctionne, en particulier en mode débit binaire constant, la qualité de la trame fluctue beaucoup. Voici le début du film, par exemple - la qualité par la métrique classiquePSNR ( , , , , xvid ):



( , ) — , , +5 dB (PSNR , , , , : 1.5 dB). , 20 dB:



, , ( )… !

, 10 MSU VQMT , 3 — , -1 -2 , , 30 . — !

MPEG-4 , .

, :

• , (, CBR).
  
• 2 ( , 3 )
  
• - ( PSNR , SSIM , VMAF ).
  
• .
  
• , : 3 — !
  

! !

-, , - - . .

, , ! , , ...

Au lieu d'une conclusion

Les moyens relativement simples de préparer du matériel de marketing «en sa faveur» dans les comparaisons de codecs et d'encodeurs ont été examinés ci-dessus. Naturellement, dans la vraie vie, tout est plus compliqué. Hélas, si vous allez plus loin, ce ne sera pas aussi excitant et sensiblement plus compliqué (ceux qui le souhaitent peuvent lire l' article et les commentaires ici , par exemple).

Et les gens sont généralement intéressés par des réponses simples. La réponse la plus populaire dans Answers@Mail.ru à la question « Quel est le meilleur codec vidéo?» Est «K-Lite Mega Codec Pack». Et c'est vraiment la réponse la plus courte, la plus compréhensible et la plus précise pour le public de masse. Et vous dites codecs, normes ...

Mais plus il y a de gens, au moins au niveau moyen qui connaissent le sujet, moins les services marketing ou les start-ups impudentes vont faire sauter les oreilles des investisseurs aux oreilles. Et la vie sera un peu meilleure.

Merci mesdames et messieurs! Tout le monde - culture technique!