]> code.delx.au - gnu-emacs/blobdiff - src/charset.c
(print_error_message): Print data of `end-of-file'
[gnu-emacs] / src / charset.c
index a9c79fe169d014ec73271426af713d3b40f55051..52ba5f28c5f0160e44c8f4fe25fcd4e45471ab9f 100644 (file)
@@ -22,12 +22,15 @@ Boston, MA 02111-1307, USA.  */
 /* At first, see the document in `charset.h' to understand the code in
    this file.  */
 
+#ifdef emacs
+#include <config.h>
+#endif
+
 #include <stdio.h>
 
 #ifdef emacs
 
 #include <sys/types.h>
-#include <config.h>
 #include "lisp.h"
 #include "buffer.h"
 #include "charset.h"
@@ -40,10 +43,10 @@ Boston, MA 02111-1307, USA.  */
 
 #endif /* emacs */
 
-Lisp_Object Qcharset, Qascii, Qcomposition;
+Lisp_Object Qcharset, Qascii;
+Lisp_Object Qunknown;
 
 /* Declaration of special leading-codes.  */
-int leading_code_composition;  /* for composite characters */
 int leading_code_private_11;   /* for private DIMENSION1 of 1-column */
 int leading_code_private_12;   /* for private DIMENSION1 of 2-column */
 int leading_code_private_21;   /* for private DIMENSION2 of 1-column */
@@ -51,7 +54,6 @@ int leading_code_private_22;  /* for private DIMENSION2 of 2-column */
 
 /* Declaration of special charsets.  */
 int charset_ascii;             /* ASCII */
-int charset_composition;       /* for a composite character */
 int charset_latin_iso8859_1;   /* ISO8859-1 (Latin-1) */
 int charset_jisx0208_1978;     /* JISX0208.1978 (Japanese Kanji old set) */
 int charset_jisx0208;          /* JISX0208.1983 (Japanese Kanji) */
@@ -60,8 +62,6 @@ int charset_latin_jisx0201;   /* JISX0201.Roman (Japanese Roman) */
 int charset_big5_1;            /* Big5 Level 1 (Chinese Traditional) */
 int charset_big5_2;            /* Big5 Level 2 (Chinese Traditional) */
 
-int min_composite_char;
-
 Lisp_Object Qcharset_table;
 
 /* A char-table containing information of each character set.  */
@@ -78,6 +78,11 @@ Lisp_Object Vcharset_list;
    ID of a translation table is used to index this vector.  */
 Lisp_Object Vtranslation_table_vector;
 
+/* A char-table for characters which may invoke auto-filling.  */
+Lisp_Object Vauto_fill_chars;
+
+Lisp_Object Qauto_fill_chars;
+
 /* Tables used by macros BYTES_BY_CHAR_HEAD and WIDTH_BY_CHAR_HEAD.  */
 int bytes_by_char_head[256];
 int width_by_char_head[256];
@@ -86,14 +91,6 @@ int width_by_char_head[256];
    CHARS, and FINAL-CHAR) to Emacs' charset.  */
 int iso_charset_table[2][2][128];
 
-/* Table of pointers to the structure `cmpchar_info' indexed by
-   CMPCHAR-ID.  */
-struct cmpchar_info **cmpchar_table;
-/* The current size of `cmpchar_table'.  */
-static int cmpchar_table_size;
-/* Number of the current composite characters.  */
-int n_cmpchars;
-
 /* Variables used locally in the macro FETCH_MULTIBYTE_CHAR.  */
 unsigned char *_fetch_multibyte_char_p;
 int _fetch_multibyte_char_len;
@@ -115,177 +112,238 @@ void
 invalid_character (c)
      int c;
 {
-  error ("Invalid character: %o, %d, 0x%x", c);
+  error ("Invalid character: 0%o, %d, 0x%x", c, c, c);
 }
 
-
-/* Set STR a pointer to the multi-byte form of the character C.  If C
-   is not a composite character, the multi-byte form is set in WORKBUF
-   and STR points WORKBUF.  The caller should allocate at least 4-byte
-   area at WORKBUF in advance.  Returns the length of the multi-byte
-   form.  If C is an invalid character to have a multi-byte form,
+/* Parse a multibyte character string STR of length LENGTH (>= 2) set
+   BYTES to the length of actual multibyte sequence, CHARSET, C1, and
+   C2 to such values that MAKE_CHAR can make the multibyte character
+   from them.
+
+   It is assumed that *STR is one of base leading codes and the
+   following (LENGTH - 1) bytes satisfy !CHAR_HEAD_P.
+
+   This macro should be called only from SPLIT_MULTIBYTE_SEQ.  */
+
+#define SPLIT_CHARACTER_SEQ(str, length, bytes, charset, c1, c2)       \
+  do {                                                                 \
+    (bytes) = 1;                                                       \
+    (charset) = (str)[0];                                              \
+    if ((charset) >= LEADING_CODE_PRIVATE_11                           \
+       && (charset) <= LEADING_CODE_PRIVATE_22)                        \
+      (charset) = (str)[(bytes)++];                                    \
+    if ((bytes) < (length))                                            \
+      {                                                                        \
+       (c1) = (str)[(bytes)++] & 0x7F;                                 \
+       if ((bytes) < (length))                                         \
+         (c2) = (str)[(bytes)++] & 0x7F;                               \
+       else                                                            \
+         (c2) = -1;                                                    \
+      }                                                                        \
+    else                                                               \
+      (c1) = (c2) = -1;                                                        \
+  } while (0)
+
+/* Parse string STR of length LENGTH and check if a multibyte
+   characters is at STR.  Set BYTES to the actual length, CHARSET, C1,
+   C2 to proper values for that character.  */
+
+#define SPLIT_MULTIBYTE_SEQ(str, length, bytes, charset, c1, c2)       \
+  do {                                                                 \
+    int i;                                                             \
+    if (ASCII_BYTE_P ((str)[0]))                                       \
+      i = 1;                                                           \
+    else                                                               \
+      for (i = 1; i < (length) && ! CHAR_HEAD_P ((str)[i]); i++);      \
+    if (i == 1)                                                                \
+      (bytes) = 1, (charset) = CHARSET_ASCII, (c1) = (str)[0] ;                \
+    else                                                               \
+      {                                                                        \
+       if (i > BYTES_BY_CHAR_HEAD ((str)[0]))                          \
+         i = BYTES_BY_CHAR_HEAD ((str)[0]);                            \
+       SPLIT_CHARACTER_SEQ (str, i, bytes, charset, c1, c2);           \
+      }                                                                        \
+  } while (0)
+
+/* 1 if CHARSET, C1, and C2 compose a valid character, else 0.  */
+#define CHAR_COMPONENTS_VALID_P(charset, c1, c2)       \
+  (charset == CHARSET_ASCII                            \
+   ? ((c1) >= 0 && (c1) <= 0x7F)                       \
+   : (CHARSET_DIMENSION (charset) == 1                 \
+      ? ((c1) >= 0x20 && (c1) <= 0x7F)                 \
+      : ((c1) >= 0x20 && (c1) <= 0x7F && (c2) >= 0x20 && (c2) <= 0x7F)))
+
+/* Store multi-byte form of the character C in STR.  The caller should
+   allocate at least 4-byte area at STR in advance.  Returns the
+   length of the multi-byte form.  If C is an invalid character code,
    signal an error.
 
-   Use macro `CHAR_STRING (C, WORKBUF, STR)' instead of calling this
-   function directly if C can be an ASCII character.  */
+   Use macro `CHAR_STRING (C, STR)' instead of calling this function
+   directly if C can be an ASCII character.  */
 
 int
-non_ascii_char_to_string (c, workbuf, str)
+char_to_string (c, str)
      int c;
-     unsigned char *workbuf, **str;
+     unsigned char *str;
 {
-  int charset, c1, c2;
+  unsigned char *p = str;
 
-  if (COMPOSITE_CHAR_P (c))
+  if (c & CHAR_MODIFIER_MASK)  /* This includes the case C is negative.  */
     {
-      int cmpchar_id = COMPOSITE_CHAR_ID (c);
+      /* Multibyte character can't have a modifier bit.  */
+      if (! SINGLE_BYTE_CHAR_P ((c & ~CHAR_MODIFIER_MASK)))
+       invalid_character (c);
 
-      if (cmpchar_id < n_cmpchars)
+      /* For Meta, Shift, and Control modifiers, we need special care.  */
+      if (c & CHAR_META)
        {
-         *str = cmpchar_table[cmpchar_id]->data;
-         return cmpchar_table[cmpchar_id]->len;
+         /* Move the meta bit to the right place for a string.  */
+         c = (c & ~CHAR_META) | 0x80;
        }
-      else
+      if (c & CHAR_SHIFT)
+       {
+         /* Shift modifier is valid only with [A-Za-z].  */
+         if ((c & 0377) >= 'A' && (c & 0377) <= 'Z')
+           c &= ~CHAR_SHIFT;
+         else if ((c & 0377) >= 'a' && (c & 0377) <= 'z')
+           c = (c & ~CHAR_SHIFT) - ('a' - 'A');
+       }
+      if (c & CHAR_CTL)
+       {
+         /* Simulate the code in lread.c.  */
+         /* Allow `\C- ' and `\C-?'.  */
+         if (c == (CHAR_CTL | ' '))
+           c = 0;
+         else if (c == (CHAR_CTL | '?'))
+           c = 127;
+         /* ASCII control chars are made from letters (both cases),
+            as well as the non-letters within 0100...0137.  */
+         else if ((c & 0137) >= 0101 && (c & 0137) <= 0132)
+           c &= (037 | (~0177 & ~CHAR_CTL));
+         else if ((c & 0177) >= 0100 && (c & 0177) <= 0137)
+           c &= (037 | (~0177 & ~CHAR_CTL));
+       }
+
+      /* If C still has any modifier bits, it is an invalid character.  */
+      if (c & CHAR_MODIFIER_MASK)
+       invalid_character (c);
+
+      *p++ = c;
+    }
+  else if (c < MAX_CHAR)
+    {
+      int charset, c1, c2;
+
+      SPLIT_NON_ASCII_CHAR (c, charset, c1, c2);
+
+      if (charset >= LEADING_CODE_EXT_11)
+       *p++ = (charset < LEADING_CODE_EXT_12
+               ? LEADING_CODE_PRIVATE_11
+               : (charset < LEADING_CODE_EXT_21
+                  ? LEADING_CODE_PRIVATE_12
+                  : (charset < LEADING_CODE_EXT_22
+                     ? LEADING_CODE_PRIVATE_21
+                     : LEADING_CODE_PRIVATE_22)));
+      *p++ = charset;
+      if (c1 > 0 && c1 < 32 || c2 > 0 && c2 < 32)
+       invalid_character (c);
+      if (c1)
        {
-         invalid_character (c);
+         *p++ = c1 | 0x80;
+         if (c2 > 0)
+           *p++ = c2 | 0x80;
        }
     }
 
-  SPLIT_NON_ASCII_CHAR (c, charset, c1, c2);
-  if (!charset
-      || ! CHARSET_DEFINED_P (charset)
-      || c1 >= 0 && c1 < 32
-      || c2 >= 0 && c2 < 32)
-    invalid_character (c);
-
-  *str = workbuf;
-  *workbuf++ = CHARSET_LEADING_CODE_BASE (charset);
-  if (*workbuf = CHARSET_LEADING_CODE_EXT (charset))
-    workbuf++;
-  *workbuf++ = c1 | 0x80;
-  if (c2 >= 0)
-    *workbuf++ = c2 | 0x80;
-
-  return (workbuf - *str);
+  return (p -str);
 }
 
-/* Return a non-ASCII character of which multi-byte form is at STR of
-   length LEN.  If ACTUAL_LEN is not NULL, the actual length of the
-   multibyte form is set to the address ACTUAL_LEN.
-
-   If exclude_tail_garbage is nonzero, ACTUAL_LEN excludes gabage
-   bytes following the non-ASCII character.
+/* Return the non-ASCII character corresponding to multi-byte form at
+   STR of length LEN.  If ACTUAL_LEN is not NULL, store the byte
+   length of the multibyte form in *ACTUAL_LEN.
 
-   Use macro `STRING_CHAR (STR, LEN)' instead of calling this function
-   directly if STR can hold an ASCII character.  */
+   Use macros STRING_CHAR or STRING_CHAR_AND_LENGTH instead of calling
+   this function directly if you want ot handle ASCII characters as
+   well.  */
 
 int
-string_to_non_ascii_char (str, len, actual_len, exclude_tail_garbage)
+string_to_char (str, len, actual_len)
      const unsigned char *str;
-     int len, *actual_len, exclude_tail_garbage;
+     int len, *actual_len;
 {
-  int charset;
-  unsigned char c1, c2;
-  register int c, bytes;
-
-  c = *str;
-  bytes = 1;
-
-  if (BASE_LEADING_CODE_P (c))
-    {
-      while (bytes < len && ! CHAR_HEAD_P (str[bytes])) bytes++;
-
-      if (c == LEADING_CODE_COMPOSITION)
-       {
-         int cmpchar_id = str_cmpchar_id (str, bytes);
-
-         if (cmpchar_id >= 0)
-           {
-             c = MAKE_COMPOSITE_CHAR (cmpchar_id);
-             if (exclude_tail_garbage)
-               bytes = cmpchar_table[cmpchar_id]->len;
-           }
-       }
-      else
-       {
-         int charset = c, c1, c2 = 0;
-         int char_bytes = BYTES_BY_CHAR_HEAD (c);
-
-         str++;
-         if (c >= LEADING_CODE_PRIVATE_11)
-           charset = *str++;
-         if (char_bytes <= bytes && CHARSET_DEFINED_P (charset))
-           {
-             c1 = *str++ & 0x7f;
-             if (CHARSET_DIMENSION (charset) == 2)
-               c2 = *str & 0x7F;
-             c = MAKE_NON_ASCII_CHAR (charset, c1, c2);
-             if (exclude_tail_garbage)
-               bytes = char_bytes;
-           }
-       }
-    }
+  int c, bytes, charset, c1, c2;
 
+  SPLIT_MULTIBYTE_SEQ (str, len, bytes, charset, c1, c2);
+  c = MAKE_CHAR (charset, c1, c2);
   if (actual_len)
     *actual_len = bytes;
   return c;
 }
 
-/* Return the length of the multi-byte form at string STR of length LEN.  */
+/* Return the length of the multi-byte form at string STR of length LEN.
+   Use the macro MULTIBYTE_FORM_LENGTH instead.  */
 int
 multibyte_form_length (str, len)
      const unsigned char *str;
      int len;
 {
-  int bytes = 1;
-
-  if (BASE_LEADING_CODE_P (*str))
-    while (bytes < len && ! CHAR_HEAD_P (str[bytes])) bytes++;
+  int bytes;
 
+  PARSE_MULTIBYTE_SEQ (str, len, bytes);
   return bytes;
 }
 
-/* Check if string STR of length LEN contains valid multi-byte form of
-   a character.  If valid, charset and position codes of the character
-   is set at *CHARSET, *C1, and *C2, and return 0.  If not valid,
+/* Check multibyte form at string STR of length LEN and set variables
+   pointed by CHARSET, C1, and C2 to charset and position codes of the
+   character at STR, and return 0.  If there's no multibyte character,
    return -1.  This should be used only in the macro SPLIT_STRING
    which checks range of STR in advance.  */
 
 int
-split_non_ascii_string (str, len, charset, c1, c2)
-     register const unsigned char *str;
-     register unsigned char *c1, *c2;
-     register int len, *charset;
+split_string (str, len, charset, c1, c2)
+     const unsigned char *str;
+     unsigned char *c1, *c2;
+     int len, *charset;
 {
-  register unsigned int cs = *str++;
-
-  if (cs == LEADING_CODE_COMPOSITION)
-    {
-      int cmpchar_id = str_cmpchar_id (str - 1, len);
+  register int bytes, cs, code1, code2 = -1;
 
-      if (cmpchar_id < 0)
-       return -1;
-      *charset = cs, *c1 = cmpchar_id >> 7, *c2 = cmpchar_id & 0x7F;
-    }
-  else if ((cs < LEADING_CODE_PRIVATE_11 || (cs = *str++) >= 0xA0)
-          && CHARSET_DEFINED_P (cs))
-    {
-      *charset = cs;
-      if (*str < 0xA0)
-       return -1;
-      *c1 = (*str++) & 0x7F;
-      if (CHARSET_DIMENSION (cs) == 2)
-       {
-         if (*str < 0xA0)
-           return -1;
-         *c2 = (*str++) & 0x7F;
-       }
-    }
-  else
+  SPLIT_MULTIBYTE_SEQ (str, len, bytes, cs, code1, code2);
+  if (cs == CHARSET_ASCII)
     return -1;
+  *charset = cs;
+  *c1 = code1;
+  *c2 = code2;
   return 0;
 }
 
+/* Return 1 iff character C has valid printable glyph.
+   Use the macro CHAR_PRINTABLE_P instead.  */
+int
+char_printable_p (c)
+     int c;
+{
+  int charset, c1, c2, chars;
+
+  if (SINGLE_BYTE_CHAR_P (c))
+    return 1;
+  if (c >= MAX_CHAR)
+    return 0;
+  
+  SPLIT_NON_ASCII_CHAR (c, charset, c1, c2);
+  if (! CHARSET_DEFINED_P (charset))
+    return 0;
+  if (CHARSET_CHARS (charset) == 94
+      ? c1 <= 32 || c1 >= 127
+      : c1 < 32)
+    return 0;
+  if (CHARSET_DIMENSION (charset) == 2
+      && (CHARSET_CHARS (charset) == 94
+         ? c2 <= 32 || c2 >= 127
+         : c2 < 32))
+    return 0;
+  return 1;
+}
+
 /* Translate character C by translation table TABLE.  If C
    is negative, translate a character specified by CHARSET, C1, and C2
    (C1 and C2 are code points of the character).  If no translation is
@@ -298,10 +356,9 @@ translate_char (table, c, charset, c1, c2)
   Lisp_Object ch;
   int alt_charset, alt_c1, alt_c2, dimension;
 
-  if (c < 0) c = MAKE_CHAR (charset, c1, c2);
+  if (c < 0) c = MAKE_CHAR (charset, (c1 & 0x7F) , (c2 & 0x7F));
   if (!CHAR_TABLE_P (table)
-      || (ch = Faref (table, make_number (c)), !INTEGERP (ch))
-      || XINT (ch) < 0)
+      || (ch = Faref (table, make_number (c)), !NATNUMP (ch)))
     return c;
 
   SPLIT_CHAR (XFASTINT (ch), alt_charset, alt_c1, alt_c2);
@@ -329,15 +386,23 @@ int
 unibyte_char_to_multibyte (c)
      int c;
 {
-  if (c >= 0240 && c < 0400)
+  if (c < 0400 && c >= 0200)
     {
       int c_save = c;
 
       if (! NILP (Vnonascii_translation_table))
-       c = XINT (Faref (Vnonascii_translation_table, make_number (c)));
-      else if (nonascii_insert_offset > 0)
-       c += nonascii_insert_offset;
-      if (c >= 0240 && (c < 0400 || ! VALID_MULTIBYTE_CHAR_P (c)))
+       {
+         c = XINT (Faref (Vnonascii_translation_table, make_number (c)));
+         if (c >= 0400 && ! char_valid_p (c, 0))
+           c = c_save + DEFAULT_NONASCII_INSERT_OFFSET;
+       }
+      else if (c >= 0240 && nonascii_insert_offset > 0)
+       {
+         c += nonascii_insert_offset;
+         if (c < 0400 || ! char_valid_p (c, 0))
+           c = c_save + DEFAULT_NONASCII_INSERT_OFFSET;
+       }
+      else if (c >= 0240)
        c = c_save + DEFAULT_NONASCII_INSERT_OFFSET;
     }
   return c;
@@ -369,11 +434,16 @@ multibyte_char_to_unibyte (c, rev_tbl)
          temp = Faref (rev_tbl, make_number (c));
          if (INTEGERP (temp))
            c = XINT (temp);
+         if (c >= 256)
+           c = (c_save & 0177) + 0200;
+       }
+      else
+       {
+         if (nonascii_insert_offset > 0)
+           c -= nonascii_insert_offset;
+         if (c < 128 || c >= 256)
+           c = (c_save & 0177) + 0200;
        }
-      else if (nonascii_insert_offset > 0)
-       c -= nonascii_insert_offset;
-      if (c < 128 || c >= 256)
-       c = (c_save & 0177) + 0200;
     }
 
   return c;
@@ -429,6 +499,9 @@ update_charset_table (charset_id, dimension, chars, width, direction,
       leading_code_ext = charset;
     } 
 
+  if (BYTES_BY_CHAR_HEAD (leading_code_base) != bytes)
+    error ("Invalid dimension for the charset-ID %d", charset);
+
   CHARSET_TABLE_INFO (charset, CHARSET_ID_IDX) = charset_id;
   CHARSET_TABLE_INFO (charset, CHARSET_BYTES_IDX) = make_number (bytes);
   CHARSET_TABLE_INFO (charset, CHARSET_DIMENSION_IDX) = dimension;
@@ -478,8 +551,6 @@ update_charset_table (charset_id, dimension, chars, width, direction,
   if (charset != CHARSET_ASCII
       && charset < MIN_CHARSET_PRIVATE_DIMENSION1)
     {
-      /* Update tables bytes_by_char_head and width_by_char_head.  */
-      bytes_by_char_head[leading_code_base] = bytes;
       width_by_char_head[leading_code_base] = XINT (width);
 
       /* Update table emacs_code_class.  */
@@ -691,71 +762,53 @@ CHARSET should be defined by `defined-charset' in advance.")
    caller should allocate CHARSETS (MAX_CHARSET + 1 elements) in advance.
    It may lookup a translation table TABLE if supplied.
 
-   If CMPCHARP is nonzero and some composite character is found,
-   CHARSETS[128] is also set 1 and the returned number is incremented
-   by 1.  */
+   If MULTIBYTE is zero, do not check multibyte characters, i.e. if
+   any ASCII codes (7-bit) are found, CHARSET[0] is set to 1, if any
+   8-bit codes are found CHARSET[1] is set to 1.  */
 
 int
-find_charset_in_str (str, len, charsets, table, cmpcharp)
+find_charset_in_str (str, len, charsets, table, multibyte)
      unsigned char *str;
      int len, *charsets;
      Lisp_Object table;
-     int cmpcharp;
+     int multibyte;
 {
-  register int num = 0, c;
+  register int num = 0;
+
+  if (! multibyte)
+    {
+      unsigned char *endp = str + len;
+      int maskbits = 0;
+       
+      while (str < endp && maskbits != 3)
+       maskbits |=  (*str++ < 0x80 ? 1 : 2);
+      if (maskbits & 1)
+       {
+         charsets[0] = 1;
+         num++;
+       }
+      if (maskbits & 2)
+       {
+         charsets[1] = 1;
+         num++;
+       }
+      return num;
+    }
 
   if (! CHAR_TABLE_P (table))
     table = Qnil;
 
   while (len > 0)
     {
-      int bytes, charset;
-      c = *str;
-      
-      if (c == LEADING_CODE_COMPOSITION)
-       {
-         int cmpchar_id = str_cmpchar_id (str, len);
-         GLYPH *glyph;
+      int bytes, charset, c1, c2;
 
-         if (cmpchar_id >= 0)
-           {
-             struct cmpchar_info *cmpcharp = cmpchar_table[cmpchar_id];
-             int i;
-
-             for (i = 0; i < cmpcharp->glyph_len; i++)
-               {
-                 c = cmpcharp->glyph[i];
-                 if (!NILP (table))
-                   {
-                     if ((c = translate_char (table, c, 0, 0, 0)) < 0)
-                       c = cmpcharp->glyph[i];
-                   }
-                 if ((charset = CHAR_CHARSET (c)) < 0)
-                   charset = CHARSET_ASCII;
-                 if (!charsets[charset])
-                   {
-                     charsets[charset] = 1;
-                     num += 1;
-                   }
-               }
-             str += cmpcharp->len;
-             len -= cmpcharp->len;
-             continue;
-           }
+      SPLIT_MULTIBYTE_SEQ (str, len, bytes, charset, c1, c2);
 
-         charset = CHARSET_ASCII;
-         bytes = 1;
-       }
-      else
+      if (! NILP (table))
        {
-         c = STRING_CHAR_AND_LENGTH (str, len, bytes);
-         if (! NILP (table))
-           {
-             int c1 = translate_char (table, c, 0, 0, 0);
-             if (c1 >= 0)
-               c = c1;
-           }
-         charset = CHAR_CHARSET (c);
+         int c1 = translate_char (table, -1, charset, c1, c2);
+         if (c1 >= 0)
+           charset = CHAR_CHARSET (c1);
        }
 
       if (!charsets[charset])
@@ -773,13 +826,22 @@ DEFUN ("find-charset-region", Ffind_charset_region, Sfind_charset_region,
        2, 3, 0,
   "Return a list of charsets in the region between BEG and END.\n\
 BEG and END are buffer positions.\n\
-Optional arg TABLE if non-nil is a translation table to look up.")
+Optional arg TABLE if non-nil is a translation table to look up.\n\
+\n\
+If the region contains invalid multiybte characters,\n\
+`unknown' is included in the returned list.\n\
+\n\
+If the current buffer is unibyte, the returned list contains\n\
+`ascii' if any 7-bit characters are found,\n\
+and `unknown' if any 8-bit characters are found.")
   (beg, end, table)
      Lisp_Object beg, end, table;
 {
   int charsets[MAX_CHARSET + 1];
   int from, from_byte, to, stop, stop_byte, i;
   Lisp_Object val;
+  int undefined;
+  int multibyte = !NILP (current_buffer->enable_multibyte_characters);
 
   validate_region (&beg, &end);
   from = XFASTINT (beg);
@@ -799,7 +861,7 @@ Optional arg TABLE if non-nil is a translation table to look up.")
   while (1)
     {
       find_charset_in_str (BYTE_POS_ADDR (from_byte), stop_byte - from_byte,
-                          charsets, table, 0);
+                          charsets, table, multibyte);
       if (stop < to)
        {
          from = stop, from_byte = stop_byte;
@@ -810,35 +872,58 @@ Optional arg TABLE if non-nil is a translation table to look up.")
     }
 
   val = Qnil;
-  for (i = MAX_CHARSET; i >= 0; i--)
+  undefined = 0;
+  for (i = (multibyte ? MAX_CHARSET : 1); i >= 0; i--)
     if (charsets[i])
-      val = Fcons (CHARSET_SYMBOL (i), val);
+      {
+       if (CHARSET_DEFINED_P (i))
+         val = Fcons (CHARSET_SYMBOL (i), val);
+       else
+         undefined = 1;
+      }
+  if (undefined)
+    val = Fcons (Qunknown, val);
   return val;
 }
 
 DEFUN ("find-charset-string", Ffind_charset_string, Sfind_charset_string,
        1, 2, 0,
   "Return a list of charsets in STR.\n\
-Optional arg TABLE if non-nil is a translation table to look up.")
+Optional arg TABLE if non-nil is a translation table to look up.\n\
+\n\
+If the region contains invalid multiybte characters,\n\
+`unknown' is included in the returned list.\n\
+\n\
+If STR is unibyte, the returned list contains\n\
+`ascii' if any 7-bit characters are found,\n\
+and `unknown' if any 8-bit characters are found.")
   (str, table)
      Lisp_Object str, table;
 {
   int charsets[MAX_CHARSET + 1];
   int i;
   Lisp_Object val;
+  int undefined;
+  int multibyte;
 
   CHECK_STRING (str, 0);
-
-  if (! STRING_MULTIBYTE (str))
-    return Qnil;
+  multibyte = STRING_MULTIBYTE (str);
 
   bzero (charsets, (MAX_CHARSET + 1) * sizeof (int));
   find_charset_in_str (XSTRING (str)->data, STRING_BYTES (XSTRING (str)),
-                      charsets, table, 0);
+                      charsets, table, multibyte);
   val = Qnil;
-  for (i = MAX_CHARSET; i >= 0; i--)
+  undefined = 0;
+  for (i = (multibyte ? MAX_CHARSET : 1); i >= 0; i--)
     if (charsets[i])
-      val = Fcons (CHARSET_SYMBOL (i), val);
+      {
+       if (CHARSET_DEFINED_P (i))
+         val = Fcons (CHARSET_SYMBOL (i), val);
+       else
+         undefined = 1;
+      }
+  if (undefined)
+    val = Fcons (Qunknown, val);
   return val;
 }
 \f
@@ -847,32 +932,56 @@ DEFUN ("make-char-internal", Fmake_char_internal, Smake_char_internal, 1, 3, 0,
   (charset, code1, code2)
      Lisp_Object charset, code1, code2;
 {
+  int charset_id, c1, c2;
+
   CHECK_NUMBER (charset, 0);
+  charset_id = XINT (charset);
+  if (!CHARSET_DEFINED_P (charset_id))
+    error ("Invalid charset ID: %d", XINT (charset));
 
   if (NILP (code1))
-    XSETFASTINT (code1, 0);
+    c1 = 0;
   else
-    CHECK_NUMBER (code1, 1);
+    {
+      CHECK_NUMBER (code1, 1);
+      c1 = XINT (code1);
+    }
   if (NILP (code2))
-    XSETFASTINT (code2, 0);
+    c2 = 0;
   else
-    CHECK_NUMBER (code2, 2);
-
-  if (!CHARSET_DEFINED_P (XINT (charset)))
-    error ("Invalid charset: %d", XINT (charset));
+    {
+      CHECK_NUMBER (code2, 2);
+      c2 = XINT (code2);
+    }
 
-  return make_number (MAKE_CHAR (XINT (charset), XINT (code1), XINT (code2)));
+  if (c1 < 0 || c1 > 0xFF || c2 < 0 || c2 > 0xFF)
+    error ("Invalid code points for charset ID %d: %d %d", charset_id, c1, c2);
+  c1 &= 0x7F;
+  c2 &= 0x7F;
+  if (c1 == 0
+      ? c2 != 0
+      : (c2 == 0
+        ? !CHAR_COMPONENTS_VALID_P (charset_id, c1, 0x20)
+        : !CHAR_COMPONENTS_VALID_P (charset_id, c1, c2)))
+    error ("Invalid code points for charset ID %d: %d %d", charset_id, c1, c2);
+
+  return make_number (MAKE_CHAR (charset_id, c1, c2));
 }
 
 DEFUN ("split-char", Fsplit_char, Ssplit_char, 1, 1, 0,
-  "Return list of charset and one or two position-codes of CHAR.")
+  "Return list of charset and one or two position-codes of CHAR.\n\
+If CHAR is invalid as a character code,\n\
+return a list of symbol `unknown' and CHAR.")
   (ch)
      Lisp_Object ch;
 {
   Lisp_Object val;
-  int charset, c1, c2;
+  int c, charset, c1, c2;
 
   CHECK_NUMBER (ch, 0);
+  c = XFASTINT (ch);
+  if (!CHAR_VALID_P (c, 1))
+    return Fcons (Qunknown, Fcons (ch, Qnil));
   SPLIT_CHAR (XFASTINT (ch), charset, c1, c2);
   return (c2 >= 0
          ? Fcons (CHARSET_SYMBOL (charset),
@@ -891,26 +1000,40 @@ DEFUN ("char-charset", Fchar_charset, Schar_charset, 1, 1, 0,
 }
 
 DEFUN ("charset-after", Fcharset_after, Scharset_after, 0, 1, 0,
-  "Return charset of a character in current buffer at position POS.\n\
-If POS is nil, it defauls to the current point.")
+  "Return charset of a character in the current buffer at position POS.\n\
+If POS is nil, it defauls to the current point.\n\
+If POS is out of range, the value is nil.")
   (pos)
      Lisp_Object pos;
 {
-  register int pos_byte, c, charset;
+  register int pos_byte, bytes, charset, c1, c2;
   register unsigned char *p;
 
   if (NILP (pos))
     pos_byte = PT_BYTE;
   else if (MARKERP (pos))
-    pos_byte = marker_byte_position (pos);
+    {
+      pos_byte = marker_byte_position (pos);
+      if (pos_byte < BEGV_BYTE || pos_byte >= ZV_BYTE)
+       return Qnil;
+    }
   else
     {
       CHECK_NUMBER (pos, 0);
+      if (XINT (pos) < BEGV || XINT (pos) >= ZV)
+       return Qnil;
       pos_byte = CHAR_TO_BYTE (XINT (pos));
     }
   p = BYTE_POS_ADDR (pos_byte);
-  c = STRING_CHAR (p, Z_BYTE - pos_byte);
-  charset = CHAR_CHARSET (c);
+  if (BASE_LEADING_CODE_P (*p))
+    {
+      SPLIT_MULTIBYTE_SEQ (p, Z_BYTE - pos_byte, bytes, charset, c1, c2);
+      if (charset < 0)
+       charset = 1;
+    }
+  else
+    charset = CHARSET_ASCII;
+
   return CHARSET_SYMBOL (charset);
 }
 
@@ -951,15 +1074,19 @@ char_valid_p (c, genericp)
   if (SINGLE_BYTE_CHAR_P (c))
     return 1;
   SPLIT_NON_ASCII_CHAR (c, charset, c1, c2);
-  if (!CHARSET_VALID_P (charset))
-    return 0;
-  return (c < MIN_CHAR_COMPOSITION
-         ? ((c & CHAR_FIELD1_MASK) /* i.e. dimension of C is two.  */
-            ? (genericp && c1 == 0 && c2 == 0
-               || c1 >= 32 && c2 >= 32)
-            : (genericp && c1 == 0
-               || c1 >= 32))
-         : c < MIN_CHAR_COMPOSITION + n_cmpchars);
+  if (genericp)
+    {
+      if (c1)
+       {
+         if (c2 <= 0) c2 = 0x20;
+       }
+      else
+       {
+         if (c2 <= 0) c1 = c2 = 0x20;
+       }
+    }
+  return (CHARSET_DEFINED_P (charset)
+         && CHAR_COMPONENTS_VALID_P (charset, c1, c2));
 }
 
 DEFUN ("char-valid-p", Fchar_valid_p, Schar_valid_p, 1, 2, 0,
@@ -1006,7 +1133,7 @@ The conversion is done based on `nonascii-translation-table' (which see)\n\
 
   CHECK_NUMBER (ch, 0);
   c = XINT (ch);
-  if (c < 0)
+  if (! CHAR_VALID_P (c, 0))
     error ("Invalid multibyte character: %d", c);
   c = multibyte_char_to_unibyte (c, Qnil);
   if (c < 0)
@@ -1016,7 +1143,7 @@ The conversion is done based on `nonascii-translation-table' (which see)\n\
 
 DEFUN ("char-bytes", Fchar_bytes, Schar_bytes, 1, 1, 0,
   "Return 1 regardless of the argument CHAR.\n\
-This is now an obsolte function.  We keep is just for backward compatibility.")
+This is now an obsolete function.  We keep it just for backward compatibility.")
   (ch)
      Lisp_Object ch;
 {
@@ -1032,22 +1159,13 @@ int
 char_bytes (c)
      int c;
 {
-  int bytes;
-
-  if (COMPOSITE_CHAR_P (c))
-    {
-      unsigned int id = COMPOSITE_CHAR_ID (c);
-
-      bytes = (id < n_cmpchars ? cmpchar_table[id]->len : 1);
-    }
-  else
-    {
-      int charset = CHAR_CHARSET (c);
+  int charset;
 
-      bytes = CHARSET_DEFINED_P (charset) ? CHARSET_BYTES (charset) : 1;
-    }
+  if (SINGLE_BYTE_CHAR_P (c) || (c & ~((1 << CHARACTERBITS) - 1)))
+    return 1;
 
-  return make_number (bytes);
+  charset = CHAR_CHARSET (c);
+  return (CHARSET_DEFINED_P (charset) ? CHARSET_BYTES (charset) : 1);
 }
 
 /* Return the width of character of which multi-byte form starts with
@@ -1089,11 +1207,6 @@ The width is measured by how many columns it occupies on the screen.")
     XSETINT (val, XVECTOR (disp)->size);
   else if (SINGLE_BYTE_CHAR_P (c))
     XSETINT (val, ONE_BYTE_CHAR_WIDTH (c));
-  else if (COMPOSITE_CHAR_P (c))
-    {
-      int id = COMPOSITE_CHAR_ID (XFASTINT (ch));
-      XSETFASTINT (val, (id < n_cmpchars ? cmpchar_table[id]->width : 0));
-    }
   else
     {
       int charset = CHAR_CHARSET (c);
@@ -1118,40 +1231,22 @@ strwidth (str, len)
 
   while (str < endp)
     {
-      if (*str == LEADING_CODE_COMPOSITION)
-       {
-         int id = str_cmpchar_id (str, endp - str);
+      Lisp_Object disp;
+      int thislen;
+      int c = STRING_CHAR_AND_LENGTH (str, endp - str, thislen);
 
-         if (id < 0)
-           {
-             width += 4;
-             str++;
-           }
-         else
-           {
-             width += cmpchar_table[id]->width;
-             str += cmpchar_table[id]->len;
-           }
-       }
+      /* Get the way the display table would display it.  */
+      if (dp)
+       disp = DISP_CHAR_VECTOR (dp, c);
       else
-       {
-         Lisp_Object disp;
-         int thislen;
-         int c = STRING_CHAR_AND_LENGTH (str, endp - str, thislen);
-
-         /* Get the way the display table would display it.  */
-         if (dp)
-           disp = DISP_CHAR_VECTOR (dp, c);
-         else
-           disp = Qnil;
-
-         if (VECTORP (disp))
-           width += XVECTOR (disp)->size;
-         else
-           width += ONE_BYTE_CHAR_WIDTH (*str);
-
-         str += thislen;
-       }
+       disp = Qnil;
+
+      if (VECTORP (disp))
+       width += XVECTOR (disp)->size;
+      else
+       width += ONE_BYTE_CHAR_WIDTH (*str);
+
+      str += thislen;
     }
   return width;
 }
@@ -1214,27 +1309,12 @@ chars_in_text (ptr, nbytes)
      unsigned char *ptr;
      int nbytes;
 {
-  unsigned char *endp, c;
-  int chars;
-
   /* current_buffer is null at early stages of Emacs initialization.  */
   if (current_buffer == 0
       || NILP (current_buffer->enable_multibyte_characters))
     return nbytes;
 
-  endp = ptr + nbytes;
-  chars = 0;
-
-  while (ptr < endp)
-    {
-      c = *ptr++;
-
-      if (BASE_LEADING_CODE_P (c))
-       while (ptr < endp && ! CHAR_HEAD_P (*ptr)) ptr++;
-      chars++;
-    }
-
-  return chars;
+  return multibyte_chars_in_text (ptr, nbytes);
 }
 
 /* Return the number of characters in the NBYTES bytes at PTR.
@@ -1246,18 +1326,25 @@ multibyte_chars_in_text (ptr, nbytes)
      unsigned char *ptr;
      int nbytes;
 {
-  unsigned char *endp, c;
-  int chars;
+  unsigned char *endp;
+  int chars, bytes;
 
   endp = ptr + nbytes;
   chars = 0;
 
   while (ptr < endp)
     {
-      c = *ptr++;
-
-      if (BASE_LEADING_CODE_P (c))
-       while (ptr < endp && ! CHAR_HEAD_P (*ptr)) ptr++;
+      if (BASE_LEADING_CODE_P (*ptr))
+       {
+         PARSE_MULTIBYTE_SEQ (ptr, nbytes, bytes);
+         ptr += bytes;
+         nbytes -= bytes;
+       }
+      else
+       {
+         ptr++;
+         nbytes--;
+       }
       chars++;
     }
 
@@ -1271,445 +1358,33 @@ DEFUN ("string", Fstring, Sstring, 1, MANY, 0,
      Lisp_Object *args;
 {
   int i;
-  unsigned char *buf
-    = (unsigned char *) alloca (MAX_LENGTH_OF_MULTI_BYTE_FORM * n);
+  unsigned char *buf = (unsigned char *) alloca (MAX_MULTIBYTE_LENGTH * n);
   unsigned char *p = buf;
   Lisp_Object val;
+  int c, multibyte_p = 0;
 
   for (i = 0; i < n; i++)
     {
-      int c, len;
-      unsigned char *str;
-
-      if (!INTEGERP (args[i]))
-       CHECK_NUMBER (args[i], 0);
+      CHECK_NUMBER (args[i], 0);
       c = XINT (args[i]);
-      len = CHAR_STRING (c, p, str);
-      if (p != str)
-       /* C is a composite character.  */
-       bcopy (str, p, len);
-      p += len;
-    }
-
-  val = make_string_from_bytes (buf, n, p - buf);
-  return val;
-}
-
-#endif /* emacs */
-\f
-/*** Composite characters staffs ***/
-
-/* Each composite character is identified by CMPCHAR-ID which is
-   assigned when Emacs needs the character code of the composite
-   character (e.g. when displaying it on the screen).  See the
-   document "GENERAL NOTE on COMPOSITE CHARACTER" in `charset.h' how a
-   composite character is represented in Emacs.  */
-
-/* If `static' is defined, it means that it is defined to null string. */
-#ifndef static
-/* The following function is copied from lread.c.  */
-static int
-hash_string (ptr, len)
-     unsigned char *ptr;
-     int len;
-{
-  register unsigned char *p = ptr;
-  register unsigned char *end = p + len;
-  register unsigned char c;
-  register int hash = 0;
-
-  while (p != end)
-    {
-      c = *p++;
-      if (c >= 0140) c -= 40;
-      hash = ((hash<<3) + (hash>>28) + c);
-    }
-  return hash & 07777777777;
-}
-#endif
-
-#define CMPCHAR_HASH_TABLE_SIZE 0xFFF
+      p += CHAR_STRING (c, p);
 
-static int *cmpchar_hash_table[CMPCHAR_HASH_TABLE_SIZE];
-
-/* Each element of `cmpchar_hash_table' is a pointer to an array of
-   integer, where the 1st element is the size of the array, the 2nd
-   element is how many elements are actually used in the array, and
-   the remaining elements are CMPCHAR-IDs of composite characters of
-   the same hash value.  */
-#define CMPCHAR_HASH_SIZE(table) table[0]
-#define CMPCHAR_HASH_USED(table) table[1]
-#define CMPCHAR_HASH_CMPCHAR_ID(table, i) table[i]
-
-/* Return CMPCHAR-ID of the composite character in STR of the length
-   LEN.  If the composite character has not yet been registered,
-   register it in `cmpchar_table' and assign new CMPCHAR-ID.  This
-   is the sole function for assigning CMPCHAR-ID.  */
-int
-str_cmpchar_id (str, len)
-     const unsigned char *str;
-     int len;
-{
-  int hash_idx, *hashp;
-  unsigned char *buf;
-  int embedded_rule;           /* 1 if composition rule is embedded.  */
-  int chars;                   /* number of components.  */
-  int i;
-  struct cmpchar_info *cmpcharp;
-
-  /* The second byte 0xFF means compostion rule is embedded.  */
-  embedded_rule = (str[1] == 0xFF);
-
-  /* At first, get the actual length of the composite character.  */
-  {
-    const unsigned char *p, *endp = str + 1, *lastp = str + len;
-    int bytes;
-
-    while (endp < lastp && ! CHAR_HEAD_P (*endp)) endp++;
-    if (endp - str < 5)
-      /* Any composite char have at least 5-byte length.  */
-      return -1;
-
-    chars = 0;
-    p = str + 1;
-    while (p < endp)
-      {
-       if (embedded_rule) p++;
-       /* No need of checking if *P is 0xA0 because
-          BYTES_BY_CHAR_HEAD (0x80) surely returns 2.  */
-       p += BYTES_BY_CHAR_HEAD (*p - 0x20);
-       chars++;
-      }
-    if (p > endp || chars < 2 || chars > MAX_COMPONENT_COUNT)
-      /* Invalid components.  */
-      return -1;
-    len = p - str;
-  }
-  hash_idx = hash_string (str, len) % CMPCHAR_HASH_TABLE_SIZE;
-  hashp = cmpchar_hash_table[hash_idx];
-
-  /* Then, look into the hash table.  */
-  if (hashp != NULL)
-    /* Find the correct one among composite characters of the same
-       hash value.  */
-    for (i = 2; i < CMPCHAR_HASH_USED (hashp); i++)
-      {
-       cmpcharp = cmpchar_table[CMPCHAR_HASH_CMPCHAR_ID (hashp, i)];
-       if (len == cmpcharp->len
-           && ! bcmp (str, cmpcharp->data, len))
-         return CMPCHAR_HASH_CMPCHAR_ID (hashp, i);
-      }
-
-  /* We have to register the composite character in cmpchar_table.  */
-  if (n_cmpchars > (CHAR_FIELD2_MASK | CHAR_FIELD3_MASK))
-    /* No, we have no more room for a new composite character.  */
-    return -1;
-
-  /* Make the entry in hash table.  */
-  if (hashp == NULL)
-    {
-      /* Make a table for 8 composite characters initially.  */
-      hashp = (cmpchar_hash_table[hash_idx]
-              = (int *) xmalloc (sizeof (int) * (2 + 8)));
-      CMPCHAR_HASH_SIZE (hashp) = 10;
-      CMPCHAR_HASH_USED (hashp) = 2;
-    }
-  else if (CMPCHAR_HASH_USED (hashp) >= CMPCHAR_HASH_SIZE (hashp))
-    {
-      CMPCHAR_HASH_SIZE (hashp) += 8;
-      hashp = (cmpchar_hash_table[hash_idx]
-              = (int *) xrealloc (hashp, 
-                                  sizeof (int) * CMPCHAR_HASH_SIZE (hashp)));
-    }
-  CMPCHAR_HASH_CMPCHAR_ID (hashp, CMPCHAR_HASH_USED (hashp)) = n_cmpchars;
-  CMPCHAR_HASH_USED (hashp)++;
-
-  /* Set information of the composite character in cmpchar_table.  */
-  if (cmpchar_table_size == 0)
-    {
-      /* This is the first composite character to be registered.  */
-      cmpchar_table_size = 256;
-      cmpchar_table
-       = (struct cmpchar_info **) xmalloc (sizeof (cmpchar_table[0])
-                                           * cmpchar_table_size);
-    }
-  else if (cmpchar_table_size <= n_cmpchars)
-    {
-      cmpchar_table_size += 256;
-      cmpchar_table
-       = (struct cmpchar_info **) xrealloc (cmpchar_table,
-                                            sizeof (cmpchar_table[0])
-                                            * cmpchar_table_size);
+      if (!SINGLE_BYTE_CHAR_P (c))
+       multibyte_p = 1;
     }
 
-  cmpcharp = (struct cmpchar_info *) xmalloc (sizeof (struct cmpchar_info));
-
-  cmpcharp->len = len;
-  cmpcharp->data = (unsigned char *) xmalloc (len + 1);
-  bcopy (str, cmpcharp->data, len);
-  cmpcharp->data[len] = 0;
-  cmpcharp->glyph_len = chars;
-  cmpcharp->glyph = (GLYPH *) xmalloc (sizeof (GLYPH) * chars);
-  if (embedded_rule)
-    {
-      cmpcharp->cmp_rule = (unsigned char *) xmalloc (chars);
-      cmpcharp->col_offset = (float *) xmalloc (sizeof (float) * chars);
-    }
+  /* Here, we can't use make_string_from_bytes because of the byte
+     combining problem.  Make a multibyte string if there is any
+     multibyte character in ARGS to make sure that `(string 2276)'
+     returns a multibyte string if running --unibyte.  */
+  if (multibyte_p)
+    val = make_multibyte_string (buf, n, p - buf);
   else
-    {
-      cmpcharp->cmp_rule = NULL;
-      cmpcharp->col_offset = NULL;
-    }
-
-  /* Setup GLYPH data and composition rules (if any) so as not to make
-     them every time on displaying.  */
-  {
-    unsigned char *bufp;
-    int width;
-    float leftmost = 0.0, rightmost = 1.0;
-
-    if (embedded_rule)
-      /* At first, col_offset[N] is set to relative to col_offset[0].  */
-      cmpcharp->col_offset[0] = 0;
-
-    for (i = 0, bufp = cmpcharp->data + 1; i < chars; i++)
-      {
-       if (embedded_rule)
-         cmpcharp->cmp_rule[i] = *bufp++;
-
-       if (*bufp == 0xA0)      /* This is an ASCII character.  */
-         {
-           cmpcharp->glyph[i] = FAST_MAKE_GLYPH ((*++bufp & 0x7F), 0);
-           width = 1;
-           bufp++;
-         }
-       else                    /* Multibyte character.  */
-         {
-           /* Make `bufp' point normal multi-byte form temporally.  */
-           *bufp -= 0x20;
-           cmpcharp->glyph[i]
-             = FAST_MAKE_GLYPH (string_to_non_ascii_char (bufp, 4, 0, 0), 0);
-           width = WIDTH_BY_CHAR_HEAD (*bufp);
-           *bufp += 0x20;
-           bufp += BYTES_BY_CHAR_HEAD (*bufp - 0x20);
-         }
-
-       if (embedded_rule && i > 0)
-         {
-           /* Reference points (global_ref and new_ref) are
-              encoded as below:
-              
-              0--1--2 -- ascent
-              |     |
-              |     |
-              |  4 -+--- center
-           -- 3     5 -- baseline
-              |     |
-              6--7--8 -- descent
-
-              Now, we calculate the column offset of the new glyph
-              from the left edge of the first glyph.  This can avoid
-              the same calculation everytime displaying this
-              composite character.  */
-
-           /* Reference points of global glyph and new glyph.  */
-           int global_ref = (cmpcharp->cmp_rule[i] - 0xA0) / 9;
-           int new_ref = (cmpcharp->cmp_rule[i] - 0xA0) % 9;
-           /* Column offset relative to the first glyph.  */
-           float left = (leftmost
-                         + (global_ref % 3) * (rightmost - leftmost) / 2.0
-                         - (new_ref % 3) * width / 2.0);
-
-           cmpcharp->col_offset[i] = left;
-           if (left < leftmost)
-             leftmost = left;
-           if (left + width > rightmost)
-             rightmost = left + width;
-         }
-       else
-         {
-           if (width > rightmost)
-             rightmost = width;
-         }
-      }
-    if (embedded_rule)
-      {
-       /* Now col_offset[N] are relative to the left edge of the
-           first component.  Make them relative to the left edge of
-           overall glyph.  */
-       for (i = 0; i < chars; i++)
-         cmpcharp->col_offset[i] -= leftmost;
-       /* Make rightmost holds width of overall glyph.  */
-       rightmost -= leftmost;
-      }
-
-    cmpcharp->width = rightmost;
-    if (cmpcharp->width < rightmost)
-      /* To get a ceiling integer value.  */
-      cmpcharp->width++;
-  }
-
-  cmpchar_table[n_cmpchars] = cmpcharp;
-
-  return n_cmpchars++;
-}
-
-/* Return the Nth element of the composite character C.  */
-int
-cmpchar_component (c, n)
-     unsigned int c, n;
-{
-  int id = COMPOSITE_CHAR_ID (c);
-
-  if (id >= n_cmpchars         /* C is not a valid composite character.  */
-      || n >= cmpchar_table[id]->glyph_len) /* No such component.  */
-    return -1;
-  /* No face data is stored in glyph code.  */
-  return ((int) (cmpchar_table[id]->glyph[n]));
-}
-
-DEFUN ("cmpcharp", Fcmpcharp, Scmpcharp, 1, 1, 0,
-  "T if CHAR is a composite character.")
-  (ch)
-     Lisp_Object ch;
-{
-  CHECK_NUMBER (ch, 0);
-  return (COMPOSITE_CHAR_P (XINT (ch)) ? Qt : Qnil);
-}
-
-DEFUN ("composite-char-component", Fcmpchar_component, Scmpchar_component,
-       2, 2, 0,
-  "Return the IDXth component character of composite character CHARACTER.")
-  (character, idx)
-     Lisp_Object character, idx;
-{
-  int c;
-
-  CHECK_NUMBER (character, 0);
-  CHECK_NUMBER (idx, 1);
-
-  if ((c = cmpchar_component (XINT (character), XINT (idx))) < 0)
-    args_out_of_range (character, idx);
-
-  return make_number (c);
-}
-
-DEFUN ("composite-char-composition-rule", Fcmpchar_cmp_rule, Scmpchar_cmp_rule,
-       2, 2, 0,
-  "Return the Nth composition rule embedded in composite character CHARACTER.\n\
-The returned rule is for composing the Nth component\n\
-on the (N-1)th component.  If N is 0, the returned value is always 255.")
-  (character, n)
-     Lisp_Object character, n;
-{
-  int id, i;
-
-  CHECK_NUMBER (character, 0);
-  CHECK_NUMBER (n, 1);
-
-  id = COMPOSITE_CHAR_ID (XINT (character));
-  if (id < 0 || id >= n_cmpchars)
-    error ("Invalid composite character: %d", XINT (character));
-  i = XINT (n);
-  if (i > cmpchar_table[id]->glyph_len)
-    args_out_of_range (character, n);
-
-  return make_number (cmpchar_table[id]->cmp_rule[i]);
-}
-
-DEFUN ("composite-char-composition-rule-p", Fcmpchar_cmp_rule_p,
-       Scmpchar_cmp_rule_p, 1, 1, 0,
-  "Return non-nil if composite character CHARACTER contains a embedded rule.")
-  (character)
-     Lisp_Object character;
-{
-  int id;
-
-  CHECK_NUMBER (character, 0);
-  id = COMPOSITE_CHAR_ID (XINT (character));
-  if (id < 0 || id >= n_cmpchars)
-    error ("Invalid composite character: %d", XINT (character));
-
-  return (cmpchar_table[id]->cmp_rule ? Qt : Qnil);
-}
-
-DEFUN ("composite-char-component-count", Fcmpchar_cmp_count,
-       Scmpchar_cmp_count, 1, 1, 0,
-  "Return number of compoents of composite character CHARACTER.")
-  (character)
-     Lisp_Object character;
-{
-  int id;
-
-  CHECK_NUMBER (character, 0);
-  id = COMPOSITE_CHAR_ID (XINT (character));
-  if (id < 0 || id >= n_cmpchars)
-    error ("Invalid composite character: %d", XINT (character));
-
-  return (make_number (cmpchar_table[id]->glyph_len));
-}
-
-DEFUN ("compose-string", Fcompose_string, Scompose_string,
-       1, 1, 0,
-  "Return one char string composed from all characters in STRING.")
-  (str)
-     Lisp_Object str;
-{
-  unsigned char buf[MAX_LENGTH_OF_MULTI_BYTE_FORM], *p, *pend, *ptemp;
-  int len, i;
-
-  CHECK_STRING (str, 0);
-
-  buf[0] = LEADING_CODE_COMPOSITION;
-  p = XSTRING (str)->data;
-  pend = p + STRING_BYTES (XSTRING (str));
-  i = 1;
-  while (p < pend)
-    {
-      if (*p < 0x20 || *p == 127) /* control code */
-       error ("Invalid component character: %d", *p);
-      else if (*p < 0x80)      /* ASCII */
-       {
-         if (i + 2 >= MAX_LENGTH_OF_MULTI_BYTE_FORM)
-           error ("Too long string to be composed: %s", XSTRING (str)->data);
-         /* Prepend an ASCII charset indicator 0xA0, set MSB of the
-             code itself.  */
-         buf[i++] = 0xA0;
-         buf[i++] = *p++ + 0x80;
-       }
-      else if (*p == LEADING_CODE_COMPOSITION) /* composite char */
-       {
-         /* Already composed.  Eliminate the heading
-             LEADING_CODE_COMPOSITION, keep the remaining bytes
-             unchanged.  */
-         p++;
-         ptemp = p;
-         while (! CHAR_HEAD_P (*p)) p++;
-         if (i + (p - ptemp) >= MAX_LENGTH_OF_MULTI_BYTE_FORM)
-           error ("Too long string to be composed: %s", XSTRING (str)->data);
-         bcopy (ptemp, buf + i, p - ptemp);
-         i += p - ptemp;
-       }
-      else                     /* multibyte char */
-       {
-         /* Add 0x20 to the base leading-code, keep the remaining
-             bytes unchanged.  */
-         len = BYTES_BY_CHAR_HEAD (*p);
-         if (i + len >= MAX_LENGTH_OF_MULTI_BYTE_FORM)
-           error ("Too long string to be composed: %s", XSTRING (str)->data);
-         bcopy (p, buf + i, len);
-         buf[i] += 0x20;
-         p += len, i += len;
-       }
-    }
-
-  if (i < 5)
-    /* STR contains only one character, which can't be composed.  */
-    error ("Too short string to be composed: %s", XSTRING (str)->data);
-
-  return make_string_from_bytes (buf, 1, i);
+    val = make_unibyte_string (buf, p - buf);
+  return val;
 }
 
+#endif /* emacs */
 \f
 int
 charset_id_internal (charset_name)
@@ -1761,7 +1436,10 @@ init_charset_once ()
   Fput (Qcharset_table, Qchar_table_extra_slots, make_number (0));
   Vcharset_table = Fmake_char_table (Qcharset_table, Qnil);
 
-  Vcharset_symbol_table = Fmake_vector (make_number (MAX_CHARSET + 1), Qnil);
+  Qunknown = intern ("unknown");
+  staticpro (&Qunknown);
+  Vcharset_symbol_table = Fmake_vector (make_number (MAX_CHARSET + 1),
+                                       Qunknown);
 
   /* Setup tables.  */
   for (i = 0; i < 2; i++)
@@ -1769,18 +1447,23 @@ init_charset_once ()
       for (k = 0; k < 128; k++)
        iso_charset_table [i][j][k] = -1;
 
-  bzero (cmpchar_hash_table, sizeof cmpchar_hash_table);
-  cmpchar_table_size = n_cmpchars = 0;
-
   for (i = 0; i < 256; i++)
     BYTES_BY_CHAR_HEAD (i) = 1;
+  for (i = MIN_CHARSET_OFFICIAL_DIMENSION1;
+       i <= MAX_CHARSET_OFFICIAL_DIMENSION1; i++)
+    BYTES_BY_CHAR_HEAD (i) = 2;
+  for (i = MIN_CHARSET_OFFICIAL_DIMENSION2;
+       i <= MAX_CHARSET_OFFICIAL_DIMENSION2; i++)
+    BYTES_BY_CHAR_HEAD (i) = 3;
   BYTES_BY_CHAR_HEAD (LEADING_CODE_PRIVATE_11) = 3;
   BYTES_BY_CHAR_HEAD (LEADING_CODE_PRIVATE_12) = 3;
   BYTES_BY_CHAR_HEAD (LEADING_CODE_PRIVATE_21) = 4;
   BYTES_BY_CHAR_HEAD (LEADING_CODE_PRIVATE_22) = 4;
-  /* The following doesn't reflect the actual bytes, but just to tell
+  /* The followings don't reflect the actual bytes, but just to tell
      that it is a start of a multibyte character.  */
-  BYTES_BY_CHAR_HEAD (LEADING_CODE_COMPOSITION) = 2;
+  BYTES_BY_CHAR_HEAD (0x80) = 2;
+  BYTES_BY_CHAR_HEAD (0x9E) = 2;
+  BYTES_BY_CHAR_HEAD (0x9F) = 2;
 
   for (i = 0; i < 128; i++)
     WIDTH_BY_CHAR_HEAD (i) = 1;
@@ -1803,9 +1486,11 @@ init_charset_once ()
       val = Fcons (make_number ((i - 0x70) << 7), val);
     for (; i < 0xFF; i++)
       val = Fcons (make_number ((i - 0xE0) << 14), val);
-    val = Fcons (make_number (GENERIC_COMPOSITION_CHAR), val);
     Vgeneric_character_list = Fnreverse (val);
   }
+
+  nonascii_insert_offset = 0;
+  Vnonascii_translation_table = Qnil;
 }
 
 #ifdef emacs
@@ -1832,9 +1517,9 @@ syms_of_charset ()
   CHARSET_SYMBOL (CHARSET_ASCII) = Qascii;
   Fput (Qascii, Qcharset, CHARSET_TABLE_ENTRY (CHARSET_ASCII));
 
-  Qcomposition = intern ("composition");
-  staticpro (&Qcomposition);
-  CHARSET_SYMBOL (CHARSET_COMPOSITION) = Qcomposition;
+  Qauto_fill_chars = intern ("auto-fill-chars");
+  staticpro (&Qauto_fill_chars);
+  Fput (Qauto_fill_chars, Qchar_table_extra_slots, make_number (0));
 
   defsubr (&Sdefine_charset);
   defsubr (&Sgeneric_character_list);
@@ -1856,12 +1541,6 @@ syms_of_charset ()
   defsubr (&Schar_direction);
   defsubr (&Schars_in_region);
   defsubr (&Sstring);
-  defsubr (&Scmpcharp);
-  defsubr (&Scmpchar_component);
-  defsubr (&Scmpchar_cmp_rule);
-  defsubr (&Scmpchar_cmp_rule_p);
-  defsubr (&Scmpchar_cmp_count);
-  defsubr (&Scompose_string);
   defsubr (&Ssetup_special_charsets);
 
   DEFVAR_LISP ("charset-list", &Vcharset_list,
@@ -1873,10 +1552,6 @@ syms_of_charset ()
 An ID of a translation table is an index of this vector.");
   Vtranslation_table_vector = Fmake_vector (make_number (16), Qnil);
 
-  DEFVAR_INT ("leading-code-composition", &leading_code_composition,
-    "Leading-code of composite characters.");
-  leading_code_composition = LEADING_CODE_COMPOSITION;
-
   DEFVAR_INT ("leading-code-private-11", &leading_code_private_11,
     "Leading-code of private TYPE9N charset of column-width 1.");
   leading_code_private_11 = LEADING_CODE_PRIVATE_11;
@@ -1915,9 +1590,12 @@ If this is nil, `nonascii-insert-offset' is used instead.\n\
 See also the docstring of `make-translation-table'.");
   Vnonascii_translation_table = Qnil;
 
-  DEFVAR_INT ("min-composite-char", &min_composite_char,
-    "Minimum character code of a composite character.");
-  min_composite_char = MIN_CHAR_COMPOSITION;
+  DEFVAR_LISP ("auto-fill-chars", &Vauto_fill_chars,
+    "A char-table for characters which invoke auto-filling.\n\
+Such characters has value t in this table.");
+  Vauto_fill_chars = Fmake_char_table (Qauto_fill_chars, Qnil);
+  CHAR_TABLE_SET (Vauto_fill_chars, make_number (' '), Qt);
+  CHAR_TABLE_SET (Vauto_fill_chars, make_number ('\n'), Qt);
 }
 
 #endif /* emacs */