在PHP中删除string中的非ASCII字符
从网站上提取数据时,我会收到奇怪的字符:
Â
我怎样才能删除任何不是正常的字符?
正则expression式replace将是最好的select。 使用$str
作为示例string并使用它匹配:print:
:,这是一个POSIX字符类 :
$str = 'aAÂ'; $str = preg_replace('/[[:^print:]]/', '', $str); // should be aA
什么:print:
是查找所有不可打印的字符。 任何不属于当前字符集的字符都将被删除。
注意:在使用此方法之前,您必须确保您当前的字符集是ASCII。 POSIX字符类同时支持ASCII和Unicode,只能根据当前字符集进行匹配。 从PHP 5.6开始,默认字符集是UTF-8。
你只想要ASCII可打印的字符 ?
用这个:
<?php header('Content-Type: text/html; charset=UTF-8'); $str = "abqwrešđčžsff"; $res = preg_replace('/[^\x20-\x7E]/','', $str); echo "($str)($res)";
或者甚至更好,将您的input转换为utf8,并使用phputf8 lib将“非正常”字符转换为ascii表示forms:
require_once('libs/utf8/utf8.php'); require_once('libs/utf8/utils/bad.php'); require_once('libs/utf8/utils/validation.php'); require_once('libs/utf8_to_ascii/utf8_to_ascii.php'); if(!utf8_is_valid($str)) { $str=utf8_bad_strip($str); } $str = utf8_to_ascii($str, '' );
$clearstring=filter_var($rawstring, FILTER_SANITIZE_STRING, FILTER_FLAG_STRIP_HIGH);
有关的,我们有一个Web应用程序必须发送数据到一个遗留系统,只能处理ASCII字符集的前128个字符。
我们不得不使用的解决scheme是将尽可能多的字符“翻译”为近似匹配的ASCII等价物,但留下任何不能单独翻译的东西。
通常我会做这样的事情:
<?php // transliterate if (function_exists('iconv')) { $text = iconv('utf-8', 'us-ascii//TRANSLIT', $text); } ?>
…但是将所有不能翻译成问号(?)的东西都replace掉了。
所以我们结束了以下。 检查在这个函数的结尾(注释掉)的PHP正则expression式,只是去掉非ASCII字符。
<?php public function cleanNonAsciiCharactersInString($orig_text) { $text = $orig_text; // Single letters $text = preg_replace("/[∂άαáàâãªä]/u", "a", $text); $text = preg_replace("/[∆лДΛдАÁÀÂÃÄ]/u", "A", $text); $text = preg_replace("/[ЂЪЬБъь]/u", "b", $text); $text = preg_replace("/[βвВ]/u", "B", $text); $text = preg_replace("/[çς©с]/u", "c", $text); $text = preg_replace("/[ÇС]/u", "C", $text); $text = preg_replace("/[δ]/u", "d", $text); $text = preg_replace("/[éèêëέëèεе℮ёєэЭ]/u", "e", $text); $text = preg_replace("/[ÉÈÊË€ξЄ€Е∑]/u", "E", $text); $text = preg_replace("/[₣]/u", "F", $text); $text = preg_replace("/[НнЊњ]/u", "H", $text); $text = preg_replace("/[ђћЋ]/u", "h", $text); $text = preg_replace("/[ÍÌÎÏ]/u", "I", $text); $text = preg_replace("/[íìîïιίϊі]/u", "i", $text); $text = preg_replace("/[Јј]/u", "j", $text); $text = preg_replace("/[ΚЌК]/u", 'K', $text); $text = preg_replace("/[ќк]/u", 'k', $text); $text = preg_replace("/[ℓ∟]/u", 'l', $text); $text = preg_replace("/[Мм]/u", "M", $text); $text = preg_replace("/[ñηήηπⁿ]/u", "n", $text); $text = preg_replace("/[Ñ∏пПИЙийΝЛ]/u", "N", $text); $text = preg_replace("/[óòôõºöοФσόо]/u", "o", $text); $text = preg_replace("/[ÓÒÔÕÖθΩθОΩ]/u", "O", $text); $text = preg_replace("/[ρφрРф]/u", "p", $text); $text = preg_replace("/[®яЯ]/u", "R", $text); $text = preg_replace("/[ГЃгѓ]/u", "r", $text); $text = preg_replace("/[Ѕ]/u", "S", $text); $text = preg_replace("/[ѕ]/u", "s", $text); $text = preg_replace("/[Тт]/u", "T", $text); $text = preg_replace("/[τ†‡]/u", "t", $text); $text = preg_replace("/[úùûüџμΰµυϋύ]/u", "u", $text); $text = preg_replace("/[√]/u", "v", $text); $text = preg_replace("/[ÚÙÛÜЏЦц]/u", "U", $text); $text = preg_replace("/[Ψψωώẅẃẁщш]/u", "w", $text); $text = preg_replace("/[ẀẄẂШЩ]/u", "W", $text); $text = preg_replace("/[ΧχЖХж]/u", "x", $text); $text = preg_replace("/[ỲΫ¥]/u", "Y", $text); $text = preg_replace("/[ỳγўЎУуч]/u", "y", $text); $text = preg_replace("/[ζ]/u", "Z", $text); // Punctuation $text = preg_replace("/[‚‚]/u", ",", $text); $text = preg_replace("/[`‛′'']/u", "'", $text); $text = preg_replace("/[″“”«»„]/u", '"', $text); $text = preg_replace("/[—–―−–‾⌐─↔→←]/u", '-', $text); $text = preg_replace("/[ ]/u", ' ', $text); $text = str_replace("…", "...", $text); $text = str_replace("≠", "!=", $text); $text = str_replace("≤", "<=", $text); $text = str_replace("≥", ">=", $text); $text = preg_replace("/[‗≈≡]/u", "=", $text); // Exciting combinations $text = str_replace("ыЫ", "bl", $text); $text = str_replace("℅", "c/o", $text); $text = str_replace("₧", "Pts", $text); $text = str_replace("™", "tm", $text); $text = str_replace("№", "No", $text); $text = str_replace("Ч", "4", $text); $text = str_replace("‰", "%", $text); $text = preg_replace("/[∙•]/u", "*", $text); $text = str_replace("‹", "<", $text); $text = str_replace("›", ">", $text); $text = str_replace("‼", "!!", $text); $text = str_replace("⁄", "/", $text); $text = str_replace("∕", "/", $text); $text = str_replace("⅞", "7/8", $text); $text = str_replace("⅝", "5/8", $text); $text = str_replace("⅜", "3/8", $text); $text = str_replace("⅛", "1/8", $text); $text = preg_replace("/[‰]/u", "%", $text); $text = preg_replace("/[Љљ]/u", "Ab", $text); $text = preg_replace("/[Юю]/u", "IO", $text); $text = preg_replace("/[fifl]/u", "fi", $text); $text = preg_replace("/[зЗ]/u", "3", $text); $text = str_replace("£", "(pounds)", $text); $text = str_replace("₤", "(lira)", $text); $text = preg_replace("/[‰]/u", "%", $text); $text = preg_replace("/[↨↕↓↑│]/u", "|", $text); $text = preg_replace("/[∞∩∫⌂⌠⌡]/u", "", $text); //2) Translation CP1252. $trans = get_html_translation_table(HTML_ENTITIES); $trans['f'] = 'ƒ'; // Latin Small Letter F With Hook $trans['-'] = array( '…', // Horizontal Ellipsis '˜', // Small Tilde '–' // Dash ); $trans["+"] = '†'; // Dagger $trans['#'] = '‡'; // Double Dagger $trans['M'] = '‰'; // Per Mille Sign $trans['S'] = 'Š'; // Latin Capital Letter S With Caron $trans['OE'] = 'Œ'; // Latin Capital Ligature OE $trans["'"] = array( '‘', // Left Single Quotation Mark '’', // Right Single Quotation Mark '›', // Single Right-Pointing Angle Quotation Mark '‚', // Single Low-9 Quotation Mark 'ˆ', // Modifier Letter Circumflex Accent '‹' // Single Left-Pointing Angle Quotation Mark ); $trans['"'] = array( '“', // Left Double Quotation Mark '”', // Right Double Quotation Mark '„', // Double Low-9 Quotation Mark ); $trans['*'] = '•'; // Bullet $trans['n'] = '–'; // En Dash $trans['m'] = '—'; // Em Dash $trans['tm'] = '™'; // Trade Mark Sign $trans['s'] = 'š'; // Latin Small Letter S With Caron $trans['oe'] = 'œ'; // Latin Small Ligature OE $trans['Y'] = 'Ÿ'; // Latin Capital Letter Y With Diaeresis $trans['euro'] = '€'; // euro currency symbol ksort($trans); foreach ($trans as $k => $v) { $text = str_replace($v, $k, $text); } // 3) remove <p>, <br/> ... $text = strip_tags($text); // 4) & => & " => ' $text = html_entity_decode($text); // transliterate // if (function_exists('iconv')) { // $text = iconv('utf-8', 'us-ascii//TRANSLIT', $text); // } // remove non ascii characters // $text = preg_replace('/[\x00-\x1F\x80-\xFF]/', '', $text); return $text; } ?>
我也认为最好的解决scheme可能是使用正则expression式。
这是我的build议:
function convert_to_normal_text($text) { $normal_characters = "a-zA-Z0-9\s`~!@#$%^&*()_+-={}|:;<>?,.\/\"\'\\\[\]"; $normal_text = preg_replace("/[^$normal_characters]/", '', $text); return $normal_text; }
那么你可以像这样使用它:
$before = 'Some "normal characters": Abc123!+, some ASCII characters: ABC+ŤĎ and some non-ASCII characters: Ąąśćł.'; $after = convert_to_simple_text($before); echo $after;
显示:
Some "normal characters": Abc123!+, some ASCII characters: ABC+ and some non-ASCII characters: .
我只需要添加标题
header('Content-Type: text/html; charset=UTF-8');
这应该是相当简单,不需要iconvfunction:
// Remove all characters that are not the separator, az, 0-9, or whitespace $string = preg_replace('![^'.preg_quote('-').'a-z0-_9\s]+!', '', strtolower($string)); // Replace all separator characters and whitespace by a single separator $string = preg_replace('!['.preg_quote('-').'\s]+!u', '-', $string);
我认为这样做的最好方法是使用ord()命令。 这样你将能够保持用任何语言书写的字符。 只要记得先testing你的文字的ord结果。 这不适用于unicode。
$name="βγδεζηΘKgfgebhjrf!@#$%^&"; //this function will clear all non greek and english characters on greek-iso charset function replace_characters($string) { $str_length=strlen($string); for ($x=0;$x<$str_length;$x++) { $character=$string[$x]; if ((ord($character)>64 && ord($character)<91) || (ord($character)>96 && ord($character)<123) || (ord($character)>192 && ord($character)<210) || (ord($character)>210 && ord($character)<218) || (ord($character)>219 && ord($character)<250) || ord($character)==252 || ord($character)==254) { $new_string=$new_string.$character; } } return $new_string; } //end function $name=replace_characters($name); echo $name;