Linux & Apache2 & UTF-8 Encoding

Overzicht Reageren

Sponsored by: Vacatures door Monsterboard

Johan K

Johan K

24/05/2015 18:09:08
Quote Anchor link
Ik loop niet echt tot een probleem aan, maar ben wel benieuwd waar dit vandaan komt.

Ik draai op mijn computer een LAMP server, en alles werkt perfect als ik mijn *.php documenten als ISO-8859-[1-15] op sla. Maar als ik dit niet doe en de standaard UTF-8 encoding gebruik dan word mijn php code als HTML comments weergeven.

Ik heb niets aangepast in de .ini bestand, behalve error_reporting.

Iemand een idee?
Gewijzigd op 24/05/2015 18:10:17 door Johan K
 
PHP hulp

PHP hulp

22/10/2020 05:58:10
 

24/05/2015 19:59:09
Quote Anchor link
Ja, PHP ondersteunt dat niet. Je PHP-code zelf moet _NIET_ als UTF-8 worden opgeslagen. Het staat misschien ook ergens bij de requirements, heb het ergens eerder voorbij zien komen. Het punt is dat je bij de output van je PHP script wel een encoding op kan geven, maar je kunt dat niet doen voor het PHP script. Ergo, er is nergens een manier om te zeggen "mijn PHP script is in encoding 'EBCDIC codepage 1140'".
De PHP parser kijkt helemaal niet naar al die bytes alsof het letters zijn, maar behandelt ze als anonieme bytecode sequence. Nouja, anoniem, het verwacht van de PHP files dat ze in Latin1 zijn (welke Latin1 zou ik moeten opzoeken). Dus als je een PHP file opslaat als UTF-8, en je editor plakt daar vooraan nog een Byte Order Mark aan vast, dan zal PHP daar iets mee proberen te doen, of alvast sturen naar de browser. Als je nog andere unicodekarakters hebt die toevallig een byte sequence vormen die PHP herkent dan gebeuren er spannende dingen.
Meestal gaat het goed omdat normale UTF-8 grotendeels backward compatible is met ASCII, maar met exotischer karakters weet je het nooit.
Gewijzigd op 24/05/2015 20:36:52 door
 
Paco de Wulp

Paco de Wulp

24/05/2015 20:32:05
Quote Anchor link
Mijn broer kwam aanzetten met een Raspberry PI 2. Grappig dingetje. Een piep klein PC'tje. 50 euro maar. Er draait nu Debarian GNU/Linux op.
Is er ook een LAMP Server voor zo'n Raspberry ? Zou wel handig zijn.

Toevoeging op 24/05/2015 20:32:51:

Ik heb er nu een MineCraft Servertje op draaien. LOL
 
- Ariën -
Beheerder

- Ariën -

24/05/2015 23:02:25
Quote Anchor link
LAMP is niet één server maar een combinatie van Apache (webserver), MySQL en PHP op Linux. Op internet zijn er veel tutorials aan gewijd om een dergelijke webserver op te zetten.

Zie ook:
http://www.wikihow.com/Make-a-Raspberry-Pi-Web-Server
 
Ivo P

Ivo P

25/05/2015 07:41:37
Quote Anchor link
Php kan wel degelijk met scripts werken die in utf8 zijn opgeslagen.
Bijvoorbeeld erg handig als je hardcoded string met letters als ö of ß in je tekst hebt staan.

Gebruik je mogelijk een verkeerde variant van utf8? Met of zonder BOM?
 
Aad B

Aad B

25/05/2015 09:40:27
Quote Anchor link
@Paco de Wulp -->Is er ook een LAMP Server voor zo'n Raspberry ?
Raspberry is Linux en daar draai je geen LAMP dinges op. Op de Raspberry linux (er zijn diverse linux images) draai je gewoon apache2, MySQL, ftp server, sftp server, sshh en andere handige linux tooling.
Zie: https://www.raspberrypi.org/documentation/remote-access/web-server/apache.md
Gewijzigd op 25/05/2015 09:41:26 door Aad B
 
LEDfan nvt

LEDfan nvt

25/05/2015 14:28:42
Quote Anchor link
@Aad B LAMP staat voor: Linux Apacache MySQL Python/Perl/PHP....... (https://en.wikipedia.org/wiki/LAMP_%28software_bundle%29)
 
Thomas van den Heuvel

Thomas van den Heuvel

25/05/2015 19:23:31
Quote Anchor link
An tje op 24/05/2015 19:59:09:
Je PHP-code zelf moet _NIET_ als UTF-8 worden opgeslagen.

Volgens mij is dat (idd) BS. Je kunt PHP-bestanden prima UTF-8 encoded opslaan (minus BOM).

En als je denkt dat dat niet hoort, hoe verklaar je dan dat de meeste IDE's dit standaard (minus BOM) doen?

Volgens mij is het zelfs zo dat alle karakters die speciale betekenis hebben in PHP (> < ? $ etc.) vallen onder het standaard ASCII repertoire, en dus op byteniveau dezelfde encoding hebben (zowel in UTF-8 alsmede ISO-8859-1). Oftewel: voor "standaard PHP code" zou dit voor de werking geen drol uit moeten maken in welke character encoding je code opslaat.

Het probleem komt dus waarschijnlijk ergens anders vandaan.

Het is natuurlijk interessant om te weten:
- welke editor + instellingen je gebruikt
- welke code voor problemen zorgt
- misschien versies van de verschillende onderdelen, en welke modules je gebruikt?

Zonder deze informatie blijft het gissen.
 
Johan K

Johan K

26/05/2015 08:21:26
Quote Anchor link
An tje op 24/05/2015 19:59:09:
Ja, PHP ondersteunt dat niet. Je PHP-code zelf moet _NIET_ als UTF-8 worden opgeslagen.
...
Meestal gaat het goed omdat normale UTF-8 grotendeels backward compatible is met ASCII, maar met exotischer karakters weet je het nooit.

Thomas van den Heuvel op 25/05/2015 19:23:31:
Volgens mij is het zelfs zo dat alle karakters die speciale betekenis hebben in PHP (> < ? $ etc.) vallen onder het standaard ASCII repertoire, en dus op byteniveau dezelfde encoding hebben (zowel in UTF-8 alsmede ISO-8859-1). Oftewel: voor "standaard PHP code" zou dit voor de werking geen drol uit moeten maken in welke character encoding je code opslaat.

Het probleem komt dus waarschijnlijk ergens anders vandaan.

Het is natuurlijk interessant om te weten:
- welke editor + instellingen je gebruikt
- welke code voor problemen zorgt
- misschien versies van de verschillende onderdelen, en welke modules je gebruikt?

Zonder deze informatie blijft het gissen.


Hoewel het probleem zichzelf oplost als ik de document op een andere encoding op sla, deel ik de de mening van Thomas wel. Daarom deze vraag ook.
In mijn eerste post melde ik al dat:
Code (php)
PHP script in nieuw venster Selecteer het PHP script
1
2
3
<?php
  echo 'hello';
?>

Gewoon in de bronvermelding komt zonder uitgevoerd te worden.
Zelfde bestand met ISO encoding werkt prima.

Server info:
PHP Version 5.5.12-2ubuntu4.4

Modules:
Code (php)
PHP script in nieuw venster Selecteer het PHP script
1
core mod_so mod_watchdog http_core mod_log_config mod_logio mod_version mod_unixd mod_access_compat mod_alias mod_auth_basic mod_authn_core mod_authn_file mod_authz_core mod_authz_host mod_authz_user mod_autoindex mod_deflate mod_dir mod_env mod_filter mod_mime prefork mod_negotiation mod_php5 mod_setenvif mod_status


Editors:
gedit & bluefish standaard instellingen.
Gewijzigd op 26/05/2015 08:28:49 door Johan K
 
Ivo P

Ivo P

26/05/2015 09:06:55
Quote Anchor link
Er zijn wat varianten 'utf8'.
Heb je de juiste? Welke dan?
 

26/05/2015 12:30:25
Quote Anchor link
Even kort, want ik heb vandaag niet de tijd om veel te zoeken of te testen maar:

Waar staat eigenlijk dat PHP wél met UTF-8 goed kan omgaan?

Ik heb daar nog steeds geen bindende uitspraak over gelezen in een of andere manual. Wel meningen. Maar dat zegt me niets, want hoe wordt er gewaarborgt dat code in UTF-8 altijd goed wordt afgehandeld? Mijn vorige educated guess blijft overeind:
- als PHP al niet met een BOM overweg gaat, waarom zou het dan wel met UTF-8 overweg kunnen
- waar staat met welke UTF-8 en welke versie(s) van Unicode PHP overweg kan? Is het alleen de BMP, of ook de SMP, of ook de andere planes?
- als PHP goed met unicode overweg kan, HOE detecteert het de encoding?
- met welke encodings kan PHP niet overweg?
Bv., als je een exotische .php file hebt met een of andere EBCDIC encodering die vooral NIET ASCII compatible is, gaat het dan ook goed? (EBCDIC codepages zijn onderling niet eens compatible)
- als PHP met Unicode kan omgaan, waarom zijn de mb_* functies dan nodig, en:
- waarom staan daar de nodige beperking in vermeld bij "PHP Character Encoding Requirements" / http://php.net/manual/en/mbstring.php4.req.php voor bijvoorbeeld alleen de Standard ASCII set en niet de Extended ASCII set?

Hoewel mijn geheugen menselijk is en dus feilbaar wil nog niet zeggen dat mijn argumenten, zoals Thomas denkt, BS zijn. Sarcastisch: natuurlijk kan iedereen een PHP file met UTF-8 opslaan en natuurlijk gaat dat altijd goed, want PHP kan daar gewoon mee overweg. PHP snapt automatisch dat het UTF-8 is, en welke. Daarom hebben we deze thread op het forum, toch? ...

Ik verwacht niet dat dit soort dingen automagisch goed gaan, omdat misschien PHP's module van Apache het getranscodeerd aangeleverd krijgt. Dan zou ik verschilen verwachten met de CLI versie.
Volgens mij is PHP gewoon agnostisch tov. encoding en kijkt het alleen maar naar bepaalde byte sequences binnen de PHP tags. Totdat iemand het even grondig uitzoekt (ipv een mening geeft) of even test, door met een andere of niet ASCII-compatible encoding op te slaan en te kijken of alles nog steeds goed gaat blijft het koffiedik kijken.

Gezien de populariteit van functies als utf8_encode() verwacht ik dat PHP scriptbestanden als met de encoding ISO/IEC 8859-1 (Latin1) moeten worden opgeslagen.
Gewijzigd op 26/05/2015 12:31:06 door
 
Ward van der Put
Moderator

Ward van der Put

26/05/2015 12:44:33
Quote Anchor link
Ik denk dat dit voorbeeldje veelzeggend is:

http://3v4l.org/HB1Rr

De uitkomst is altijd hetzelfde, ongeacht of je het scriptje nu wel of niet als UTF-8 met of zonder BOM opslaat.

Ergo: ga er nooit impliciet van uit dat PHP altijd feilloos met UTF-8 uit de voeten kan, maar maak dat expliciet in je code door die op de verwerking van UTF-8 in te richten.
 
Thomas van den Heuvel

Thomas van den Heuvel

26/05/2015 13:51:46
Quote Anchor link
@An tje: (nav relaas hierboven) daarom zou je altijd aan moeten geven wat voor content(type) je serveert, en met welke character encoding, want het zal PHP worst wezen.

@Johan K: heb je al gekeken naar de broncode van je output (in je browser)? Wat wordt uiteindelijk uitgespuugd?
De broncode as-is: dan wordt UTF-8 encoded data op een of andere manier opgepikt en anders behandeld (bijvoorbeeld door Apache?). Ook interessant om uit te vinden hoe dit dan gedetecteerd wordt.

Een HTML-safe variant van je broncode (&amp; in plaats van & etc.): dat vindt er ergens een vertaalstap plaats, maar dat zou een beetje vreemd zijn.

Hoe dan ook: iets neemt op een of andere manier de beslissing om de PHP-code op een afwijkende manier te behandelen. Dit gegeven vormt de leidraad voor je onderzoek.

Ik heb overigens nog nooit het hierboven beschreven gedrag meegemaakt (UTF-8 encoded PHP-code die genegeerd wordt, als dat inderdaad het euvel is).
Gewijzigd op 26/05/2015 14:02:57 door Thomas van den Heuvel
 
Johan K

Johan K

26/05/2015 18:06:42
Quote Anchor link
Ik vond het zelf ook al vreemd, schijnbaar heb ik *iets* verkeerds gedaan tijdens de installatie want ik ben nog nooit eerder tegen deze LAMP aangelopen. Zojuist even in Archlinux getest, en daar 't werkt prima.

Als ik er achter kom wat precies 't euvel is zal ik wel laten weten. Ik dacht het zal wel iets simpels zijn wat ik over het hoofd heb gezien, een flag in de config, maar dat is schijnbaar dus niet het geval.

@Ivo P: Ik heb de desbetreffende code even door de parser gehaald, en de output is UTF-8 maar volgens mij is dat het resultaat van de locale standaard ingebakken in de Ubuntu installatie.
Code (php)
PHP script in nieuw venster Selecteer het PHP script
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
$ locale -a
C
C.UTF-8
en_AG
en_AG.utf8
en_AU.utf8
en_BW.utf8
en_CA.utf8
en_DK.utf8
en_GB.utf8
en_HK.utf8
en_IE.utf8
en_IN
en_IN.utf8
en_NG
en_NG.utf8
en_NZ.utf8
en_PH.utf8
en_SG.utf8
en_US.utf8
en_ZA.utf8
en_ZM
en_ZM.utf8
en_ZW.utf8
nl_NL.utf8
POSIX
$ locale charmap
UTF-8
$ locale
LANG="en_US.UTF-8"
LC_NUMERIC="nl_NL.UTF-8"
LC_TIME="nl_NL.UTF-8"
LC_MONETARY="nl_NL.UTF-8"
LC_PAPER="nl_NL.UTF-8"
LC_NAME="nl_NL.UTF-8"
LC_ADDRESS="nl_NL.UTF-8"
LC_TELEPHONE="nl_NL.UTF-8"
LC_MEASUREMENT="nl_NL.UTF-8"
LC_IDENTIFICATION="nl_NL.UTF-8"


@An tje, Thomas: Na wat kleine testjes op het werkende Archlinux en UTF-8 encoding word prima uitegelezen. Zelfs met karakters die niet ondersteund worden in UTF-8, its wat hij op deze instlalatie gewoon niet doet.

Voorlopig ben ik er even klaar mee, als ik dit zo lees (en niet alleen hier) hoort dit gewoon niet en denk dat als dit echt een probleem voor mij gaat worden is dat ik dingen opnieuw ga installeren, desnoods het O.S. Maar ik ben een simpele ziel, het werkt met ISO-8859-1? Prima... a.u.b. parser.
 

26/05/2015 19:27:38
Quote Anchor link
@Thomas, het HTTP 'content-type' slaat op de _output_ van PHP. Terwijl de .php-bestanden juist _input_ zijn voor PHP. Ik lees dat iedereen maar aannames doet zonder mijn vragen te beantwoorden of mijn stelling te ontkrachten. Leuk dat HHVM, maar we hebben het hier over PHP, dat is toch echt iets anders. Wat als enthousiastelingen bijvoorbeeld emoji in PHP code verwerken? Wie kan mij garanderen dat die 4 bytes per icoontje door PHP niet opgemerkt gaan worden als 4 losse 8-bit karakters in Latin1-encoding?

Even off-topic: wat is de relevantie van PHP code opslaan als UTF-8? Is het geen prakken als je data en code door elkaar gaan lopen, en kun je dan niet beter code en data scheiden (zoals vaak aanbevolen)?

Mijn devies: gewoon php als Latin1 laten inlezen door PHP. Vervolgens $_REQUEST-achtige data als UTF-8 behandelen, en die mb_* -functies aanspreken om UTF-8 af te handelen, UTF-8 in de HTTP header 'Content-Type: text/plain; charset=utf-8' zetten voor de output, en klaar.

Tenzij; maar dat is de uitdaging, iemand een stuk documentatie kan linken van een bron met autoriteit met iets van een tabel waarin staat welke versie van PHP met welke versie(s) en coderingsschema's van Unicode gaat werken.
Gewijzigd op 26/05/2015 19:29:11 door
 
Thomas van den Heuvel

Thomas van den Heuvel

26/05/2015 20:21:44
Quote Anchor link
Quote:
Gezien de populariteit van functies als utf8_encode() verwacht ik dat PHP scriptbestanden als met de encoding ISO/IEC 8859-1 (Latin1) moeten worden opgeslagen.
Omdat vertalen efficienter is dan opslaan in native UTF-8? -_-

Waarom UTF-8? Standaardisatie misschien? De wereld is groter dan de VS/Europa.

Eenduidigheid?

Een zinnige default character encoding?

En als je echt/toch wilt nitpicken, weet niet of het in PHP ook zo is / je het ook zo gebruikt, maar in MySQL is het zelfs zo dat "latin1" gebaseerd is op cp1252 West European, die afwijkt van iso-8859-1. cp1252 is geen (ANSI) standaard (ben bron kwijt, als iemand dit kan bevestigen of ontkennen).

Quote:
Wat als enthousiastelingen bijvoorbeeld emoji in PHP code verwerken?
Het is moeilijk (zoniet onmogelijk) om dingen idiot proof te maken, want idioten zijn vindingrijk.

Ik kan de logica die je hanteert ook tegen je argumentatie gebruiken: waarom zou ik ISO-8859-1 gebruiken? Tis maar net wat je afspreekt, en voor wie het moet werken.

Ooit iets op github gezet? Niet bedoeld als een pissing contest (ik doe zelf niets met github) maar meer in de zin van: heb je ooit code met de rest van de wereld gedeeld?

Bevatten je regelovergangen ook nog CR+LF?

Gebruik je een versioning systeem voor je code?

Wat voor IDE gebruik je?

Al die dingen bepalen mede hoe je met jouw code omgaat. En andermans code. Gebruik je libraries of andere zaken? Dat is ook altijd? vaak? meestal? UTF-8. Ga je dan werken met 2 standaarden?

Het is altijd beter om expliciet aan te geven wat je gebruikt (wat dan ook, UTF-8 of anderszins) dan uit te gaan van een default. Dit kun je ook doen middels DOCUMENTATIE. En ja, het kan problematisch zijn om te detecteren wat voor character encoding er gebruikt wordt. Maar als jij een stuk PHP-code hebt van onbekende origine, waar zou jij je geld dan op zetten?

Je moet trouwens argumenten niet tellen maar wegen. Je weet er ongetwijfeld het eea van af, maar omdat niemand een weerwoord lijkt te hebben op je epistels heb je niet ineens meer gelijk dan een ander.

Daarbij moet je het praktische aspect van je oplossingen niet uit het oog verliezen.

"Alles UTF-8" lijkt mij een simpele en (dus) goede vuistregel. Daar valt je broncode ook onder.

En als jij een andere oplossing hebt die voor jou werkt, doe je ding. De rest / het overgrote deel van de wereld / een heleboel mensen gebruiken inmiddels UTF-8 en ik hoop van harte dat deze trend zich voortzet, in plaats van dat iedereen zijn eigen (obscure) standaard gebruikt.
Gewijzigd op 26/05/2015 21:16:32 door Thomas van den Heuvel
 
Johan K

Johan K

27/05/2015 04:57:30
Quote Anchor link
@an tje, UTF-8 is netzoals Thomas vermeld een standaard geworden, het heeft beter support en je zou toch wel verwachten dat vooral php met de trend mee gaat en hun parser daarop aan past om er meer performance uit te drukken.

Met dit gezegd te hebben ben ik bezig met een CMS systeem die gewoon volledig 100% UTF-8 pagina's verwerkt, waaronder ook de database. Geen poes pas met andere character encodings zodat ik me daar geen zorgen over hoef te maken en ik maak het dan voor mezelf alleen maar makkelijker. Als je andere encoderingen gaat gebruiken kunnen er rare dingen gebeuren.

Een parser kan alleen maar gokken wat de encoding is van het document dat het leest. Dit gaat in 99.999% van de gevallen goed en mocht je input krijgen waarvan de encoding anders is kan altijd de parser overrulen met die mb_* functies (zoals bestanden die via de FTP server zijn geupload in ASCII mode).

Dus ik raad jouw echt aan om gewoon lekker altijd UTF-8 te gebruiken. Als er veel Chinese, Japanse, etc tekens op de websites komen te staan dan kan je beter UTF-16 gebruiken omdat het document dat je verzend dan kleiner is dan dat je UTF-8 gebruikt.

@Thomas, effe rustig neem een bakkie koffie.
- Als ik een onbekende origine php bestand heb zal ik waarschijnlijk mijn editor erop los laten gokken (wat hij toch altijd wel doet) en het desnoods laten opslaan als UTF-8.
- CR + LF? dit heeft meer te maken met het O.S. / IDE dan de encodatie van een document.
- Git download alles lekker in UTF-8, bron https://github.com/gitextensions/gitextensions/wiki/Git-Encoding. Dit is, natuurlijk te overrulen.
- IDE? een beetje IDE staat een gebruiker toe om een document op te slaan naar andere encodering maar staat standaard op de O.S. default.

Thomas van den Heuvel op 25/05/2015 19:23:31:
An tje op 24/05/2015 19:59:09:
Je PHP-code zelf moet _NIET_ als UTF-8 worden opgeslagen.

Volgens mij is dat (idd) BS. Je kunt PHP-bestanden prima UTF-8 encoded opslaan (minus BOM).

Volgende keer even wat subtieler aanpakken, je bereikt er niets mee om zo te reageren zowel hier niet als in het echte leven.



Al met al...
Ik maar hopen dat het toch die ene flag was... ;)
Gewijzigd op 27/05/2015 05:00:40 door Johan K
 

27/05/2015 11:01:34
Quote Anchor link
Bij het maken van een gedachtenexperiment met de nodige bewijslast kwam bij mij een 'aha erlebnis', dat zowel Thomas als ik gelijk hebben.

1.) PHP doet helemaal niets met UTF-8 in de broncode. PHP is agnostisch tov. encoding en kijkt alleen naar de bytes. Het maakt bv. onderscheid tussen normale quotes en de quotes bekend van Word.

2.) Gebruik van UTF-8 in PHP als onderdeel van data (zoals in strings) gaat altijd goed door de aard van de encodering van UTF-8. Het is geen verdienste van PHP.

Het werd duidelijk toen ik op een willekeurige site (http://www.utf8-chartable.de) zocht naar een UTF-8 encoded karakter dat de byte 0x22 (dubbele quote) had in de byte sequence. Gewoon om te kijken of dat PHP zou breken met escapen van strings met dubbele quotes. Maar, dat karakter BESTAAT NIET in UTF-8! Wel in UTF-16 en UTF-32 waar je ook een BOM nodig hebt voor de endianness.

De crux is dat UTF-8 niet volledig ASCII-compatibel is. Het is alleen compatibel met de eerste 128 karakters, en niet met de Extended ASCII reeks (de overige 128 karakters) die je in 1 byte kunt proppen. PHP en ook andere talen maken voor hun control-karakters, variabelenamen en functienamen _uitsluitend_ gebruik van de eerste 128 karakters. Dat is geen toeval, want de meeste variatie in de verschillende ASCII code pages zit juist in de Extended ASCII set. (De Extended ASCII-set kwam beschikbaar toen de eerste bit van een byte, dat aanvankelijk gebruikt werd voor controle van pariteit, vrij kwam.) Zo hoeven quotes nooit ge-escaped te worden vanwege hun codering; de codepoints zitten op respectievelijk 0x22 en 0x27.

Omdat de aanvullende karakters van UTF-8 alleen gebruik maken van de range 0x80 t/m 0xFF zal dat DUS geen problemen geven.

Ik vind het veelzeggend dat niemand dat antwoord paraat had.. ;-)

===

Off-topic:
PHP heeft net zoals de meeste andere talen wel degelijk problemen met het overwinnen met deze decennialange historie omtrent coderingsschema's:
http://www.slideshare.net/andreizm/the-good-the-bad-and-the-ugly-what-happened-to-unicode-and-php-6
Voorlopig kunnen we dus nog geen unicode karakters gebruiken in functienamen ed.

===

Ofwel, PHP code kán niet in UTF-8. Maar omdat je PHP code dwars door HTML-bestanden (met een eigen codering) kunt gebruiken, en omdat je data al dan niet in UTF-8 rechtstreeks in een .php-bestand kunt gebruiken ontstaat gemakkelijk babelonische spraakverwarring.
Gewijzigd op 27/05/2015 13:08:56 door
 
Johan K

Johan K

27/05/2015 13:47:02
Quote Anchor link
An tje op 27/05/2015 11:01:34:
Het werd duidelijk toen ik op een willekeurige site (http://www.utf8-chartable.de) zocht naar een UTF-8 encoded karakter dat de byte 0x22 (dubbele quote) had in de byte sequence. Gewoon om te kijken of dat PHP zou breken met escapen van strings met dubbele quotes. Maar, dat karakter BESTAAT NIET in UTF-8! Wel in UTF-16 en UTF-32 waar je ook een BOM nodig hebt voor de endianness.

Ik volg je niet helemaal, 0x22 oftewel de unicode benoeming U+0022 / U+0027 zit natuurlijk gewoon in utf-8 verwerkt.

UTF-8 (1-4 bytes) is volledig backwards compatible met ASCII (1 byte), en inderdaad als je over een andere encoding praat (ASCII Extended) beginnen inderdaad de verschillen. ASCII was een basis waar andere coderingen zichzelf overheen hebben gebouwd. En nee, het is inderdaad geen toeval dat de tekens die gebruikt worden in parsers altijd in de 128 reeks zitten, gewoon voor de compatibiliteit.


De link die je hebt meegestuurd gaat over een project van 10 jaar geleden! Een tijd waar IE6 nog heerste, waar webdesigners vrolijk een pagina bouwde voor IE6 zonder ook maar aan compatibiliteit te denken, een tijd waar alleen Mozilla hun best deed om zich aan standaarden te houden, een tijd waar mensen screeuwden voor betere ondersteuning met special karakters.. en toen was Unicode geboren..
Gewijzigd op 27/05/2015 13:48:00 door Johan K
 

27/05/2015 14:46:22
Quote Anchor link
We zijn het dus eens over de eerste 128 karakters van ASCII. Ik heb het niet gecontroleerd maar ik neem aan dat de verschillende codepages onderling grotendeels gelijk zijn.

UTF-8 maakt juist gebruik van het feit dat de overige karakters (128 t/m 255) verschillen, door de overige miljoenen Unicode codepoints vast te leggen in byte reeksen die maximaal 4 bytes per karakter bevatten.

De clou is dat UTF-8 het conflict met de standaard ASCII set mijdt door een combinatie te maken met bytes die standaard de eerste bit op 1 hebben staan. Als je bijvoorbeeld kijkt naar het Unicode karakter 'TAG QUOTATION MARK' op:
http://www.fileformat.info/info/unicode/char/e0022/index.htm

dan zie je dat een schrijfwijze als:
U+E0022

wordt vertaald naar:
0xF3 0xA0 0x80 0xA2

Ik nam aan dat PHP het conflict ook mijdt door in functienamen en variabelenamen alleen standaard ASCII karakters toe te staan. Dat is in ieder geval niet zo voor zelf gedefineerde functies. Een simpele test:
Code (php)
PHP script in nieuw venster Selecteer het PHP script
1
2
3
4
5
function ?nabla() {
  header('content-type:text/plain');
  print "test: ?";
}
?nabla();

Voor de parser van PHP zijn extended ASCII tekens ook toegestaan. PHP hoeft ook niet eens te kijken naar het Nabla teken (U+2207), omdat het in UTF-8 wordt opgeslagen als 0xE2 0x88 0x87. Het maakt natuurlijk ook niet uit, als de functienaam maar hetzelfde is als de aanroep ervan. Zolang je in je IDE of editor maar de juiste encoding hebt ingesteld, anders kan het zijn dat je zelf niet meer weet waar de functie voor is.

Off-topic: wel geinig dat PHPhulp het Nabla-teken http://www.fileformat.info/info/unicode/char/2207/index.htm niet ondersteunt en corrumpeert naar een vraagteken.
Gewijzigd op 27/05/2015 17:55:56 door
 

28/05/2015 17:18:23
Quote Anchor link
http://kunststube.net/encoding/#utf8-ascii

Hier staat het allemaal uitgelegd, inclusief wat het voor PHP betekent. Het had me een paar posts en toegegeven, foute aannames kunnen schelen als ik me die link naar (onofficiële) documentatie eerder had herinnerd.

Wat we er uit kunnen leren is dat PHP met ELKE encoding overweg kan, ZOLANG het maar ASCII-compatible is.
Aangezien UTF-8 ASCII compatible is (zie het verhaal over de 1e bit in een byte) levert het geen problemen op met PHP.
Aangezien EBCDIC niet ASCII compatible is zal EBCDIC niet werken met PHP.

Het enige dat nog wel eens problemen levert is manipulatie van Unicode in PHP, hiervoor moet je vrij oplettend omgaan met mb_* functies. Die set is heel beperkt, en er zijn op internet meerdere libraries te vinden die het manipuleren van Unicode uitgebreider kunnen.
Gewijzigd op 28/05/2015 17:19:29 door
 



Overzicht Reageren

 
 

Om de gebruiksvriendelijkheid van onze website en diensten te optimaliseren maken wij gebruik van cookies. Deze cookies gebruiken wij voor functionaliteiten, analytische gegevens en marketing doeleinden. U vindt meer informatie in onze privacy statement.